英特尔表示,由于软件问题,它现在将无法实现 Gaudi 3 5 亿美元销售额的目标。与此同时,AMD 计划从其 AI GPU 中赚取 30 亿美元,虽然 Nvidia 没有具体说明其从用于数据中心的 AI GPU 中获得的收入,但预计将远远超过 80 至 900 亿美元。一个
英特尔声称其 Gaudi 3 人工智能加速器与前代产品相比,提供了切实的性能改进,并且考虑到其在相对较低的价格下所声称的优势,英特尔预计这些产品的销量将 今年超过 5 亿美元。不过,新部门已于 9 月下旬正式推出,英特尔目前表示该软件尚未完全烘焙。不过,一些 Gaudi 3 加速器将在国际商业机器公司云。
“虽然高迪3基准令人印象深刻,我们对最近与 IBM 合作将 Gaudi 3 作为 IBM Cloud 上的服务部署感到高兴,但 Gaudi 的整体采用速度比我们预期的要慢,因为采用率受到从 Gaudi 2 到 Gaudi 的产品过渡的影响英特尔首席执行官帕特·基辛格 (Pat Gelsinger) 在与分析师和投资者举行的公司财报电话会议上表示:“我们无法实现 Gaudi 2024 年收入 5 亿美元的目标。3、软件易用性。”
英特尔的 Gaudi 3 依赖于两个互连的小芯片,内含 64 个张量处理核心,采用 256x256 矩阵结构设计,使用 FP32 累加器和八个使用 256 位宽矢量功能的矩阵引擎。它还包括 96MB 的内部 SRAM 缓存,提供高达 19.2 TB/s 的数据传输速率。
此外,Gaudi 3 还拥有 24 个以 200 GbE 速度运行的网络接口和 14 个媒体处理器,能够处理 H.265、H.264、JPEG 和 VP9 等视频和图像格式,以进行视觉数据处理。该芯片具有跨八个堆栈的 128GB HBM2E 内存,可提供 3.67 TB/s 的高带宽。与其前身相比,Gaudi 3 标志着一个重大飞跃,因为 Gaudi 2 仅包含 24 个张量核心、两个矩阵引擎和 96GB HBM2E 内存。
英特尔表示,新的 Gaudi 3 加速器比 Gaudi 2 具有明显的性能优势,在某些情况下甚至可以挑战 Nvidia 的 H100(至少当该 GPU 不使用稀疏性时)。同样重要的是,Gaudi 3 比 H100 便宜得多。今年早些时候,英特尔披露了一款套件,该套件具有底板上有八个 Gaudi 3 芯片售价为 125,000 美元,即每个芯片约 15,625 美元。相比之下,单张 Nvidia H100 卡目前的售价为 $30,678,大约高出两倍。
然而,尽管 Gaudi 3 拥有诸多优势,但英特尔的软件似乎还没有完全准备好迎接黄金时段,这减缓了硬件购买速度。现在,英特尔预计 Gaudi 3 的销量将在 2025 年大幅增长。