MLPERF v5.1基准测试展示Intel Xeon 6和Arc Pro B系列GPU，为工作站和边缘系统提供功能强大的低延迟AI推论。
什么是新的：如今，MLCommons发布了其最新的MLPerf推理v5.1基准，在Intel的6个关键基准测试中展示了Intel-S GPU系统，其中包含Intel-®Xeon®和p-cores和p-cores和intel®®Arc-Arc¢b60 Pro Pro图形，推理工作站，编码为代码为代码为代码为代码的工作站点。Project Battlematrix。在Llama 8B中，与NVIDIA RTX Pro 6000和L40相比，英特尔ARC Pro B60的每美元优势高达1.25倍和4倍。1结果强调了全智能平台的性能和可访问性，该平台解决了高端工作站和边缘应用程序中出现的AI推理工作负载。MLPERF v5.1结果是Intel的GPU和AI策略的有力验证。
我们的ARC PRO B系列GPU具有新的推理优化软件堆栈，使开发人员和企业具有具有强大的推理工作站开发和部署AI供电的应用程序，这些应用程序功能强大，易于设置，价格可访问，可访问和可扩展。”
-GPU和NPU IP Group的英特尔公司副总裁兼总经理Lisa Pearce
为什么重要： 到目前为止，对于能够在不损害数据隐私或产生与专有AI模型相关的大量订阅费用的情况下提供高推理性能的专业人员的专业人员的选择有限，但需要部署大型语言模型（LLMS）的功能。
这些新的英特尔GPU系统，即代码为“ Project Battlematrix”，旨在满足现代AI推理的需求，并提供一个将全堆栈验证的硬件和软件结合在一起的多合一推理平台。
Intel GPU系统旨在简化用于Linux环境的新容器化解决方案的采用和易用性，优化旨在通过Multi-GPU缩放和PCIE P2P数据传输提供令人难以置信的推理性能，并旨在包括Enterprise-Class可靠性和诸如ECC，SRIOV，SRIOV，sriov，treemetry和Enerage Wearkate的企业级可靠性和管理功能。
CPU在AI系统中继续发挥至关重要的作用。作为编排轮毂，CPU处理预处理，传输和整体系统协调。在过去的四年中，英特尔在基于CPU的AI性能方面持续改进已建立了Intel Xeon作为托管和管理GPU驱动系统中AI工作负载的首选CPU。
英特尔还仍然是唯一向MLPERF提交服务器CPU结果的供应商，表明了领导能力，并致力于在计算机和加速器体系结构中加速AI推断能力。值得注意的是，P核的英特尔Xeon 6在MLPERF推理中实现了1.9倍的性能改善Gen-Over-gen v5.1
更多上下文： mlperf推论v5.1结果|Project Battlematrix
通知和免责声明
性能因使用，配置和其他因素而异。在www.intel.com/performanceIndex上了解更多信息。
性能结果基于配置中显示的日期的测试，并且可能无法反映所有公开可用的更新。请访问MLCommons以获取更多详细信息。没有产品或组件绝对安全。
1。成本估算是基于使用Intel Xeon W7-2475X，4倍ARC Pro B60双GPU卡和2张64GB DDR5 5600MHz内存的2个内存棒进行配置的内部估计。
您的成本和结果可能会有所不同。
英特尔技术可能需要启用硬件，软件或服务激活。