加入我们的每日和每周时事通讯，了解有关行业领先人工智能报道的最新更新和独家内容。了解更多
SambaNova Systems 刚刚在 Hugging Face 上推出了一个新演示，提供 OpenAIs o1 模型的高速开源替代方案。
该演示由 Metas Llama 提供支持3.1 Instruct 模型是对 OpenAI 最近发布的 o1 模型的直接挑战，代表着在主导企业人工智能基础设施的竞赛中向前迈出了重要一步。
该版本的发布表明 SambaNovas 打算在生成性领域占据更大份额通过提供高效、可扩展的平台来满足开发人员和企业的需求，进军人工智能市场。
凭借最前沿的速度和精度，SambaNovas 平台将撼动人工智能领域，而人工智能领域在很大程度上是由Nvidia 等硬件提供商和 OpenAI 等软件巨头。
SambaNovas 在 Hugging Face 上发布其演示，这是一个明确的信号，表明该公司有能力竞争与 OpenAI 正面交锋。虽然上周发布的 OpenAI o1 模型因其高级推理功能而受到广泛关注，但 SambaNovas 演示通过利用 Metas Llama 3.1 模型提供了一个引人注目的替代方案。
该演示允许开发人员与 Llama 3.1 405B 模型进行交互，当今最大的开源模型之一，提供每秒 129 个令牌的速度。相比之下，OpenAI 的 o1 模型因其解决问题的能力和推理能力而受到称赞，但尚未在代币生成速度方面展示此类性能指标。
这个演示很重要，因为它表明自由可用的人工智能模型的性能与私营公司拥有的模型一样好。虽然 OpenAI 的最新模型因其推理复杂问题的能力而受到赞誉，但 SambaNovas 演示强调了系统处理信息的速度。这种速度对于人工智能在商业和日常生活中的许多实际应用至关重要。
通过使用 Metas 公开的 Llama 3.1 模型并展示其快速处理能力，SambaNova 正在描绘一个未来的图景，其中强大的人工智能工具将成为现实让更多人触手可及。这种方法可以使先进的人工智能技术得到更广泛的应用，让更多的开发人员和企业能够根据自己的需求使用和调整这些复杂的系统。
SambaNovas 的竞争优势关键在于硬件。该公司专有的SN40L人工智能芯片专为高速代币生成而设计，这对于需要快速响应的企业应用程序至关重要，例如自动化客户服务、实时决策和人工智能代理。
在初始基准测试中，在 SambaNovas 基础设施上运行的演示为 Llama 3.1 70B 模型实现了每秒 405 个代币，使其成为 Llama 模型第二快的提供商，仅次于 Cerebras。
这个速度是对于想要大规模部署人工智能的企业来说至关重要。更快的令牌生成意味着更低的延迟、更低的硬件成本以及更有效地利用资源。对于企业来说，这可以转化为现实的好处，例如更快的客户服务响应、更快的文档处理和更无缝的自动化。
SambaNovas 演示在保持高精度的同时实现了令人印象深刻的速度。这种平衡对于医疗保健和金融等行业至关重要，因为在这些行业中，准确性与速度同样重要。通过使用 16 位浮点精度，SambaNova 展示了快速可靠的 AI 处理的可能性。这种方法可以为人工智能系统设立新标准，特别是在即使很小的错误也可能产生严重后果的领域。
SambaNovas对 Meta 开源模型 Llama 3.1 的依赖标志着人工智能领域的重大转变。虽然像 OpenAI 这样的公司已经围绕其模型构建了封闭的生态系统，但 Metas Llama 模型提供了透明度和灵活性，允许开发人员针对特定用例微调模型。这种开源方法正在受到希望更好地控制其人工智能部署的企业的欢迎。
通过提供高速、开源替代方案，SambaNova 为开发人员和企业提供了一个可以与两者竞争的新选择OpenAI 和 Nvidia。
该公司的可重新配置数据流架构优化了神经网络层之间的资源分配，从而可以通过软件更新不断提高性能。这为 SambaNova 提供了流动性，随着 AI 模型变得越来越大、越来越复杂，它可以保持竞争力。
对于企业来说，在模型之间切换、自动化工作流程以及以最小延迟微调 AI 输出的能力是一个重要因素。游戏规则改变者。这种互操作性与 SambaNovas 的高速性能相结合，使该公司成为新兴 AI 基础设施市场中的领先替代方案。
随着 AI 的不断发展，对更快、更高效平台的需求只会增加。SambaNovas 的最新演示清楚地表明该公司已准备好满足这一需求，为行业最大的参与者提供令人信服的替代方案。无论是通过更快的代币生成、开源灵活性还是高精度输出，SambaNova 都在企业人工智能领域树立了新标准。
通过此版本，人工智能基础设施主导地位的争夺战还远未结束，但 SambaNova 已明确表示，它将留下来竞争。