作者:Arjun Kharpal
Groq Inc.首席执行官乔纳森·罗斯(Jonathan Ross)于2024年5月30日星期四在美国加利福尼亚州旧金山举行的Genai峰会上。
大卫·保罗|彭博|盖蒂图像
人工智能半导体初创公司Groq周一宣布,它已在欧洲建立了第一个数据中心,因为它加强了国际扩张。
GROQ,由三星的投资武器和思科,说数据中心将位于芬兰的赫尔辛基,与quinix。
Groq希望利用其他美国公司对欧洲对AI服务的需求不断增长,这也加剧了该地区的投资。北欧尤其是数据设施的热门位置,因为该地区可以轻松地使用可再生能源和凉爽的气候。上个月,Nvidia首席执行官詹森黄(Jensen Huang)在欧洲,签署了几项基础设施交易,包括数据中心。
Groq价值为28亿美元,设计了该公司称之为语言处理单元(LPU)的芯片。它是为了推断而不是培训的。推断是当预先训练的AI模型解释实时数据以提出结果时,就像流行聊天机器人产生的答案一样。
尽管NVIDIA对使用其图形处理单元(GPU)培训巨大的AI模型所需的芯片有束缚,但仍有一系列初创企业希望在推断方面取得一小部分。Sambanova;Ampere,一家软银公司正在购买;小脑和分子都希望加入AI推理竞赛。
首席执行官乔纳森·罗斯(Jonathan Ross)表示,在许多领域,格罗克(Groq)希望在包括恩维迪亚(Nvidia)在内的竞争对手中脱颖而出。
罗斯在周一接受CNBC的采访时说,NVIDIA芯片将使用昂贵的组件,例如高带宽内存,目前的供应商很少。同时,GROQ的LPU不使用此类芯片,该公司的供应链广泛位于北美。
罗斯对CNBC的“ Squawk Box Europe”说:“我们的供应有限并不那么重要,这对于推理很重要,幅度很高,利润率很低。”
“而且我们对Nvidia的股东如此有益的原因是,我们很乐意从事大量但更低的保证金业务,并让其他人专注于高利润培训。”
罗斯还吹捧了Groq以速度部署其技术的能力。他说,该公司在四个星期前决定在赫尔辛基建立数据中心目前正在将其服务器机架卸载到该位置。
罗斯说:“我们希望从本周末开始为流量提供服务。这是快速建造的,因此与您在市场其他地方看到的命题截然不同。”
欧洲政客一直在推动必须位于该地区数据中心的主权概念。靠近用户的数据中心还有助于提高服务速度。
全球数据中心构建器Equinix将不同的云提供商(例如Amazon Web Services和Google Cloud)连接在一起,使企业更容易拥有多个供应商。GROQ的LPU将安装在Equinix数据中心内,允许企业通过Equinix访问Groq的推理功能。
GROQ目前在美国,加拿大和沙特阿拉伯的技术中有数据中心。