AMD的Instinct MI300X是一款强大的AI加速器——基于该公司第三代CDNA架构和台积电先进的5nm和6nm工艺，它配备了19,456个流处理器、192GB HBM3内存、304个计算单元、1,216个矩阵核心以及750瓦的热设计功率(TDP)。在其中一项首次基准测试中彻底碾压了Nvidia的RTX 4090.
Vultr一家领先的私有云计算平台宣布，计划将其可扩展的云基础设施与AMD的高性能硬件集成起来。目的是更有效地管理GPU加速的工作负载，在数据中心和边缘计算中提供无缝性能。
“创新在开放的生态系统中茁壮成长，”Vultr的首席执行官J.J. Kardwell说道。“企业AI工作负载的未来在于能够提供灵活性、可扩展性和安全性的开放环境。AMD加速器为我们的客户提供了无与伦比的成本效益性能。高内存和低功耗需求之间的平衡进一步推动了可持续发展的努力，并使我们的客户能够高效地通过人工智能驱动创新和增长。”
GPU加速的Kubernetes
Vultr与AMD的合作旨在为企业提供访问世界一流AI开发环境的机会。结合AMD的架构和Vultr的平台，企业可以使用开源预训练模型，从而简化AI项目的开发流程。
AMD数据中心GPU业务部门企业发展副总裁Negin Oliver表示：“我们很自豪能与Vultr密切合作，因为其云平台专为管理高性能AI训练和推理任务而设计，并提供整体效率的提升。”
“通过采用AMD Instinct MI300X加速器和ROCm开源软件，Vultr的客户将受益于一个能够高效管理各种AI密集型工作负载的优化系统。”
此项合作还优化了 Vultr 的基础设施，以支持基于 GPU 加速的 Kubernetes 集群，能够在全球范围内处理复杂的任务负载。Vultr 并未透露其订购了多少 Instinct MI300X 设备，仅表示初始集群规模为“数千”。