英伟达主导人工智能计算机芯片市场，但竞争对手看到了超越的机会

构建当前的人工智能聊天机器人依赖于由英伟达，占据市场主导地位并成为人工智能热潮的典型代表。

但是，这些图形处理器芯片或 GPU 在从头开始创建强大的人工智能系统方面如此有效，但它们在应用人工智能产品方面的效率却较低。

这为人工智能芯片行业向那些认为自己可以在销售所谓的人工智能推理芯片方面与英伟达竞争的竞争对手敞开了大门，这些芯片更适合人工智能工具的日常运行，旨在减少一些巨大的成本。生成式人工智能的计算成本。

“这些公司正在看到这种专用硬件的机会，”乔治敦大学安全与新兴技术中心的分析师雅各布·费尔德戈斯 (Jacob Feldgoise) 说。– 这些模型的采用越广泛，推理所需的计算量就越大，对推理芯片的需求也就越大。”

什么是人工智能推理？

制作人工智能聊天机器人需要大量的计算能力。它始于一个称为训练或预训练的过程（ChatGPT 中的“P”），其中涉及人工智能系统从海量数据的模式中“学习”。GPU 擅长完成这项工作，因为它们可以在相互通信的设备网络上一次运行许多计算。

然而，一旦经过训练，生成式人工智能工具仍然需要芯片来完成工作，例如当您要求聊天机器人撰写文档或生成图像时。这就是推理的用武之地。经过训练的人工智能模型必须接收新信息并根据已知信息进行推理以产生响应。

GPU 也可以完成这项工作。但这有点像拿大锤敲开坚果。

– 通过训练，您会做更多更重、更多的工作。Forrester 分析师阿尔文·阮 (Alvin Nguyen) 表示，通过推理，重量会更轻。

这导致 Cerebras、Groq 和 d-Matrix 等初创公司以及 Nvidia 的传统芯片制造竞争对手（例如 AMD 和英特尔）推出更多推理友好型芯片，因为 Nvidia 专注于满足巨大的需求来自大型科​​技公司的高端硬件。

人工智能推理芯片实验室内部

D-Matrix 于 2019 年成立，将于本周推出首款产品，首席执行官 Sid Sheth 在最近在加利福尼亚州圣克拉拉的公司总部接受采访时解释道，在人工智能芯片领域起步有点晚。这座硅谷城市也是 AMD、英特尔和 Nvidia 的所在地。

– 已经有 100 多家公司。因此，当我们出去时，我们得到的第一反应是“你来得太晚了”，他说。六个月后新冠疫情的到来并没有起到什么作用，因为科技行业开始将重点转向服务于远程工作的软件。

然而现在，Sheth 看到了人工智能推理的巨大市场，并将机器学习的后期阶段与人类如何应用他们在学校获得的知识进行比较。

– 我们生命的前 20 年都在上学，自我教育。这就是训练，对吧？”他说。“然后在你人生的接下来 40 年里，你会走出去应用这些知识，然后你就会因为高效而获得回报。”

该产品名为 Corsair，由两块芯片组成，每块芯片有四个小芯片，由台积电（大部分 Nvidia 芯片的制造商也是该公司）制造，并以有助于保持凉爽的方式封装在一起。

这些芯片在圣克拉拉设计，在台湾组装，然后在加利福尼亚州进行测试。测试是一个漫长的过程，可能需要六个月的时间——如果有任何问题，可能会被送回台湾。

D-Matrix 的工作人员最近参观了一家实验室，当时他们正在对芯片进行最终测试，实验室的蓝色金属办公桌上摆满了电缆、主板和计算机，隔壁还有一间冰冷的服务器机房。

谁想要人工智能推理芯片？

虽然亚马逊、谷歌、Meta 和微软等科技巨头一直在吞噬昂贵的 GPU 供应，以在人工智能开发领域相互超越，但人工智能推理芯片制造商的目标是扩大客户群。

Forrester 的 Nguyen 表示，这可能包括希望利用新的生成式 AI 技术而无需构建自己的 AI 基础设施的财富 500 强公司。Sheth 表示，他预计人们会对人工智能视频生成产生浓厚的兴趣。

“对于许多这样的企业来说，人工智能的梦想是你可以使用自己的企业数据，”Nguyen 说。– 购买（人工智能推理芯片）应该比从 Nvidia 和其他公司购买终极 GPU 更便宜。但我认为整合它会有一个学习曲线。”

Feldgoise 表示，与专注于训练的芯片不同，人工智能推理工作优先考虑一个人获得聊天机器人响应的速度。

他表示，另一批公司正在开发用于推理的人工智能硬件，这些硬件不仅可以在大数据中心运行，还可以在本地台式电脑、笔记本电脑和手机上运行。

为什么这很重要？

设计更好的芯片可以降低企业运行人工智能的巨额成本。这也可能影响其他所有人的环境和能源成本。

谢思说，现在最大的担忧是，“为了追求人们所说的通用人工智能（AGI）——类人智能，我们是否会毁掉地球？”

人工智能何时能达到通用人工智能的水平仍然很模糊——预测范围从几年到几十年不等。但是，谢斯指出，只有少数科技巨头致力于实现这一目标。

“那么剩下的呢？”他说。– 不能将它们放在同一条道路上。 –

另一类公司不想使用非常大的人工智能模型——它成本太高，而且消耗太多能源。

——我不知道人们是否真的、真的意识到推理实际上比训练有更大的机会。我认为他们并不欣赏这一点。真正占据所有头条新闻的仍然是训练，”谢思说。

——马特·奥布莱恩和芭芭拉·奥图泰，美联社