在开发AI硬件和软件时,中国并没有显着落后于美国说NVIDIA首席执行官Jensen Huang在Hill and Valley论坛上。尽管中国公司在AI服务和软件方面取得了显着进展,但黄的评论主要是指中国人工智能硬件。巧合的是,华为已开始运送其最新的AI系统,该系统与NVIDIA的GB200 NVL72很大程度上被认为具有竞争力。金融时报。但是,有一个渔获。
Huang在Hill and Valley论坛的旁观中说:“中国不在任何人身后,中国就在我们身后,我们非常非常接近。”安全, 根据彭博播客。
关于硬件,中国有许多公司开发AI芯片,这些AI芯片或多或少地与NVIDIA的AI硬件竞争。华为领先于其他所有人,因为其AI策略从其上升的900系列AI加速器到服务器到云数据中心的机架尺度解决方案。最近,该公司宣布CloudMatrix 384,它包装了384双芯片Hisilicon Ascend 910c使用完全光学网络互连。到目前为止,华为已向中国客户出售了10多个CloudMatrix 384系统,这表明有些人想尝试使用限制性NVIDIA硬件的国内替代方案。
“毫无疑问,华为是世界上最强大的技术公司之一,它们在计算方面令人难以置信,它们在网络技术和软件能力方面令人难以置信,所有这些都可以推进AI。他们在过去几年中取得了巨大进展,” Huang说。
这款华为CloudMatrix 384系统跨越16个机架:12个计算架,每个壳体32升压910C加速器,以及四个专用架子,通过800G LPO速度通过6,912的光学收发器来管理光学连接性。CloudMatrix 384可实现大约300个Pflops密度BF16计算,几乎双倍的NVIDIA的GB200 NVL72,使用HBM2E,内存带宽高2.1倍,HBM容量高3.6倍。CM384的光学互连提供了很大的带宽优势,其中包括提高缩放的2.1倍和5.3倍的扩展功能。但是,它少于NVIDIA的GB200 NVL72效率,每次失败的功率增加2.3倍,每TB/S内存带宽倍数1.8倍,每TB的HBM内存增加1.1倍。
运输10 CM384系统本身并不重要,尤其是考虑到像阿里巴巴这样的中国技术公司,据报道,据报道,NVIDIA的H20 HGX GPU $ 160亿美元在第一季度,预计美国出口限制称为AI扩散规则将于5月中旬开始。
但是,可能是10个系统。据报道,华为拥有约100万个Hisilicon Ascend 910c,足以容纳2,600个CloudMatrix 384系统。再说一次,2,600 cm384个簇可以提供约780个exaflops的密集bf16计算。一台NVIDIA的GB200 NVL72机器(或约312,000 B200 AI GPU)需要大约4,300台才能获得类似的性能。分析师Ming-Chi Kuo估计的仅2025年,仅用GB200 NVL72机架就可以达到25,000架35,000个架子,但此外,该公司还将运送GB300 NVL72机架以及B100,B200和B300 AI AI GPUS。
这意味着,仅NVIDIA将提供与今年的华为相比,AI计算性能的数量级。但是,华为拥有可能与美国公司的技术相媲美。
跟随汤姆在Google新闻上的硬件在您的提要中获取我们的最新新闻,分析和评论。确保单击“关注”按钮。