英特尔的CoreUltraCPU通过其NPU带来了强大的AI功能,因为它们能够在单台机器上运行超过500个AI模型。
英特尔展示CoreUltra专用NPU能力,可运行数百个AI模型
[新闻稿]:今天,英特尔宣布超过500个人工智能模型在全新英特尔酷睿Ultra处理器上运行优化,这是当今市场上业界领先的人工智能PC处理器,具有全新的人工智能体验、沉浸式图形和最佳电池寿命。这一重要里程碑是英特尔在客户端AI、AIPC转型、框架优化以及包括OpenVINO工具套件在内的AI工具方面投资的结果。
相关报道IntelPantherLakeCPU和PCIID列出:A0和B0逐步采用下一代GT3和GT2iGPU
这500个模型可跨中央处理单元(CPU)、图形处理单元(GPU)和神经处理单元(NPU)进行部署,可从流行的行业来源获取,包括OpenVINOModelZoo、HuggingFace、ONNXModelZoo和PyTorch。这些模型借鉴了本地人工智能推理的类别,包括大语言、扩散、超分辨率、对象检测、图像分类/分割、计算机视觉等。
重要性:超过500个AI模型对于英特尔培育和支持AIPC转型的努力具有里程碑意义。英特尔酷睿Ultra处理器不仅是迄今为止增长最快的AIPC处理器(2023年全年单季度销量超过竞争对手处理器),而且还是最强大的AIPC开发平台,拥有更多AI模型,比任何其他处理器供应商启用的框架和运行时。
英特尔将其NPU加速库作为开源资产,使开发人员能够优化人工智能应用1
模型构成了人工智能增强软件功能的支柱,例如对象删除、图像超分辨率或文本摘要。已启用/优化模型的数量与可推向市场的面向用户的人工智能功能的广度之间存在直接联系。没有模型,就无法设计该功能。如果没有运行时优化,该功能就无法达到最佳性能。
AI模型如何工作:AI模型是软件堆栈中的许多关键层之一,决定了AI驱动的应用程序的最终性能、稳定性和功能。人工智能模型经过训练可以分析大量数据、得出结论并根据此类推论采取行动。创建新的人工智能PC功能的开发人员可以利用这些模型并在其基础上进行构建。AI模型越多,启用的AIPC功能就越多。
AI模型可以作用于文本、语音、音频、图像以及PC体验中常见的其他视听源。人工智能模型构成了为用户开发的人工智能增强功能的基础,例如自动文本摘要、减少电话会议期间的能耗或从图片中删除不需要的对象。OpenVINO通过在所有计算单元之间进行负载平衡、压缩模型以在AIPC中高效运行以及优化运行时以利用IntelCoreUltra中的内存带宽和核心架构来优化IntelCoreUltra。
我们不断努力在英特尔酷睿Ultra上实现一系列无与伦比的高性能模型,为软件开发人员提供了广泛的创新领域,并简化了向用户提供AIPC应用程序和功能的过程。
关于其他功能和优点:500多个优化的AI模型的功能和优点:
促进开发和部署。
涵盖20多个人工智能类别,包括大语言、扩散、超分辨率、物体检测和计算机视觉。
包括Phi-2、Mistral、Llama、Bert、Whisper和StableDiffusion1.5。
提高系统稳定性、可靠性和性能。