埃隆·马斯克 (Elon Musk) 的孟菲斯新数据中心借助 Nvidia 芯片实现了人工智能里程碑 - Semafor

2024-09-28 02:35:00 英文原文

独家新闻

据知情人士透露,埃隆·马斯克 (Elon Musk) 位于孟菲斯的新 xAI 数据中心本周达到了一个重要里程碑,同时将所有 100,000 个先进的 Nvidia 芯片投入运行。

这一壮举使得绰号为 Colossus 的数据中心成为有史以来最强大的已知计算机,并且代表了 xAI 的一项重大技术成就,xAI 是一家相对年轻的公司,在不到六个月的时间内就使大型设施投入运行。

虽然马斯克在推特上谈到了该设施,称其为世界上最大的设施,但行业专家质疑 xAI 是否有足够的能量或技术能力来同时运行如此多的 GPU,即 Nvidia 的 H100 芯片。

据《The Information》本月早些时候报道,马斯克可能夸大了单个集群中实际运行的 GPU 数量。由于网络技术的限制,网络技术将芯片相互连接起来,使它们可以像一台计算机一样运行,因此没有其他公司能够成功地将 100,000 个 GPU 连接在一起。

这一成就于本周早些时候取得,使该公司能够训练出比历史上任何其他已知模型都更强大的计算能力的人工智能模型。xAI 正在使用数据中心来训练 Grok 背后的人工智能模型,Grok 是该公司的聊天机器人,自称是 ChatGPT 的未经审查版本。

马斯克没有立即回复置评请求。

了解更多

xAI 积极追求其目标,甚至连接天然气涡轮机来补充传统电力,这是不断迭代的权宜之计,尽管公用事业官员正在努力为该设施提供更多电力。

能源已成为构建更强大的人工智能模型的主要挑战之一。彭博社报道称,OpenAI 首席执行官 Sam Altman 已请求美国政府官员帮助建设需要 5 吉瓦电力或多达 5 个核电站的数据中心。

微软、贝莱德和阿布扎比斯 MGX 正在合作设立一个 300 亿美元的投资基金,目标是用于人工智能的大型数据中心基础设施项目。

为了建设更大的数据中心,OpenAI 正在寻求数十亿美元的新资金,并寻求改变其公司结构以允许更大的投资。

仅计算能力并不能保证更好的人工智能模型,但业内的一种思想流派认为,计算能力越强通常就意味着模型能力更强。

还可以训练多个 AI 模型,然后将它们组合成一个更大的模型,有时称为专家混合模型。

从历史上看,同一个屋檐下连接的 GPU 越多,生成的模型就越强大。

关于《埃隆·马斯克 (Elon Musk) 的孟菲斯新数据中心借助 Nvidia 芯片实现了人工智能里程碑 - Semafor》
暂无评论

摘要

独家新闻据知情人士透露,埃隆·马斯克 (Elon Musk) 位于孟菲斯的新 xAI 数据中心本周达到了一个重要里程碑,将所有 100,000 个先进的 Nvidia 芯片同时上线。尽管马斯克在推特上谈到了该设施,称其为世界上最大的设施,但行业专家质疑 xAI 是否拥有同时运行如此多 GPU(即 Nvidia H100 芯片)所需的能量或技术能力。xAI 正在使用数据中心来训练 Grok 背后的人工智能模型,Grok 是该公司的聊天机器人,自称是 ChatGPT 的未经审查版本。了解更多xAI 积极追求其目标,甚至连接天然气涡轮机来补充传统电力,这是不断迭代的权宜之计,尽管公用事业官员正在努力为该设施提供更多电力。能源已成为构建更强大的人工智能模型的主要挑战之一。