Hyperscaler与Dell,Switch,Vertiv合作提供了一个旨在满足最具挑战性AI推理需求的平台。
Hyperscaler Coreweave周四宣布,由于与Dell Technologies,数据中心提供商交换机以及关键的基础架构和服务公司Vertiv的合作,这是第一个部署最新NVIDIA GB300 NVL72系统的AI云提供商。
CoreWeave GB300 NVL72是一个机架尺度的液体冷却平台,将72 NVIDIA BLACKWELL ULTRA GPUS,36个基于ARM的NVIDIA GRACE CPU和36个NVIDIA Bluefield-3 DPU统一为一个平台。CoreWeave在一份新闻稿中说,部署与CoreWeave的云本地软件堆栈紧密集成在一起,包括CoreWeave Kubernetes服务(CKS)和Kubernetes上的Slurm(Sunk)。
另外,戴尔著名的,CoreWeave通过NVIDIA GB300 NVL72对Dell集成的架子的采用促进了云服务的可扩展性界限。部署将支持CoreWeave扩展AI云平台,简化从大型语言模型培训和推理到实时推断的所有内容。
CoreWeave的首席技术官Peter Salanki补充说,该系统旨在处理测试时间扩展推理的巨大计算需求,这是部署最先进的AI模型的关键组成部分。”博客。随着AI模型的规模和复杂性继续迅速增长,对专门建造的AI基础设施的需求只会以相同的速度继续增长。”
戴尔的巨大胜利
Moor Insights&Strategy的Datacenter Compertute&Storation副总裁兼首席分析师Matt Kimball表示,这是戴尔的巨大胜利,他将发布是戴尔在几个方面的重要成就。首先,首先要销售它的方面,这擅长设定步伐(和吹牛的权利)。
他说,这是一件大事,并且对戴尔和Nvidia以及戴尔和Neocloud社区之间的关系说了很多。戴尔(Dell)在云市场上进行了奔跑,并在2016年左右撤退。尽管几年后,它重新进入,但我认为它对OCP和模块硬件系统(MHS)设计的拥抱以及与NVIDIA的紧密整合,使其成为一个合法的市场,长期以来一直由白盒子和White Boxes和supersupermicrocro占据主导地位。
金博尔说,部署将戴尔质量带到了商品领域。这样的胜利确实可以验证戴尔在重塑其投资组合以适应市场需求方面所做的一切。
虽然关注去年,NVIDIA的下一代Blackwell数据中心处理器在安装在高容量服务器架上时会出现明显的过热问题,他说重复性能不太可能。
Nvidia说,金博尔(Kimball)在其GPU的方法中受到了纪律处分,直到准备就绪之前才运送硅。戴尔几乎将这种疯狂的质量重点加倍。我的意思是听起来像我有盲目的信念,但是在过去几年中,我看着这两家公司都是故意交付产品数量的。尤其是随着竞争激烈的市场开始更加强烈地塑造,我希望对质量具有极高的信心。
CoreWeave有一个目的
他说,“ Lambda Labs,Crusoe等人[Coreweave]似乎有一个目的(目前):将GPU的能力传递到市场。尽管我希望这些云提供商将在服务方面扩展,但我认为目前,使用服务的客户类型在AI的早期采用者方面。从企业的角度来看,我必须认为,进入AI之旅的组织是Coreweave的消费者。”
Kimball指出,许多模型提供商和技术供应商也使用了CoreWeave。例如,公众知道Microsoft,OpenAI,Meta,IBM和其他人使用CoreWeave GPU进行模型培训等等。这很有意义。这些客户真正受益于我们世代相传的性能提升。
订阅我们的新闻通讯
从我们的编辑直接到您的收件箱
通过在下面输入您的电子邮件地址开始。