英语轻松读发新版了,欢迎下载、更新

红帽通过收购 Neural Magic 押注人工智能

2025-01-14 10:14:00 英文原文

作者:Written by

red hat
关兵/彭博社,盖蒂图片社

IBM 旗下的开源软件巨头红帽 (Red Hat) 已完成其收购神经魔法, 开创性的人工智能(AI)优化启动。最初于 2024 年 11 月宣布该交易于 2025 年 1 月 13 日完成,标志着红帽在跨混合云环境增强人工智能能力的战略中迈出了重要一步。

虽然价格没有透露,Neural Magic 此前已筹集 5000 万美元风险投资资金来自各种投资者,包括 Andreessen Horowitz、New Enterprise Associates、Amdocs 和 Comcast Ventures。我们可以有把握地假设,这笔交易并不是为了小事而达成的。我确信,这笔交易完成前 Neural Magic 的首席执行官是红帽前首席技术官兼执行副总裁布莱恩·史蒂文斯 (Brian Stevens),这一事实可能不会对这一事业造成损害。 

还:最好的开源人工智能模型:所有免费使用选项的解释

当合并首次宣布时,史蒂文斯表示:“Neural Magic,我们的愿景是人工智能的未来是开放的,我们的使命是让企业能够从人工智能中获得强大的创新力,同时不受摩擦和限制。开源模型、优化算法和推理系统是其核心——使企业能够拥有自己的人工智能模型,根据自己的数据集私下定制它们,并将它们部署在私有的多供应商基础设施上——云、数据中心,或边缘。”

神经魔法是麻省理工学院的衍生公司,成立于 2018 年,开发了可加速生成人工智能推理工作负载的创新软件和算法。 

该公司的技术允许复杂的人工智能模型在商用硬件(包括标准 CPU 和 GPU)上高效运行,从而可能减少对昂贵的专用人工智能加速器的需求。 

还:近一半的 Gen AI 采用者希望它开源 - 这就是原因

那么,这种能力意味着什么呢?那么,Neural Magic 通过收购为红帽带来了几项关键技术:

  1. vLLM 专业知识:Neural Magic 是以下领域的主要贡献者法学硕士,一个高效的开源项目大语言模型(法学硕士)服务。特别是,vLLM 已经红帽企业 Linux (RHEL) AI红帽 OpenShift AI的推理机。此举显然有利于红帽现有的人工智能项目。 
  2. 深度稀疏:推理运行时,通过减少神经网络执行的计算和内存需求的算法,在商用 CPU 上提供 GPU 级性能。具体来说,除了法学硕士之外,DeepSparse 对于计算机视觉 (CV) 和自然语言处理 (NLP) 也很有用。
  3. 稀疏动物园:如果您使用 DeepSparse,Neural Magic 已经提供了预先优化的 CV、NLP 和 LLM 模型的存储库。 
  4. 模型压缩技术:Neural Magic 开发了先进的模型量化和稀疏化方法,可以显着减少模型大小和计算要求,而不会大幅降低准确性。
  5. 跨平台优化:Neural Magic 的技术支持跨云、数据中心和边缘环境部署的 AI 模型优化。

这些技术符合红帽的愿景,即使人工智能工作负载更易于访问、更高效,并且可在混合云环境中部署,从而有可能减少对专门且昂贵的人工智能硬件的需求。简而言之,Neural Magic 的技术使其用户能够以低廉的成本实现人工智能。从 vLLM 的核心来看,它也是一种开源人工智能方法。 

另外: 通缉:人类为 OpenAI 打造机器人——但并非所有人都感到兴奋

对于红帽来说,正如该公司首席执行官马特·希克斯(Matt Hicks)在一份声明中所说:“我们很高兴能够用 Neural Magic 的突破性人工智能创新来补充我们以混合云为中心的人工智能产品组合,进一步推动我们不仅成为开放的‘红帽’来源,但也是人工智能的‘红帽’。” 

在 X 上,希克斯写道:“在 @红帽,我们相信人工智能的未来是开放的。这就是为什么我对我们收购@NeuralMagic。我们将共同进一步履行对客户和开源社区的承诺,以实现人工智能的未来——从今天开始。”

从战略上讲,红帽希望收购 Neural Magic 能够增强红帽在不同计算环境(从本地数据中心到公共云)部署人工智能工作负载的能力,并提高已在 RHEL AI 上运行的人工智能工作负载的效率。OpenShift 人工智能,以及指导实验室,一个开源 Red Hat 和 IBM AI 社区项目,旨在改进开源许可IBM Granite 法学硕士

另外: 2024 年人工智能为我节省工作时间的 15 种方式 - 以及我计划在 2025 年如何使用它

那么,这种方法会奏效吗?戴夫·麦卡锡,国际数据中心云和边缘服务研究副总裁这样认为:“红帽收购 Neural Magic 是对其 AI 能力的战略增强,通过利用 Neural Magic 在模型优化和推理加速方面的专业知识,促进跨混合云的 AI 部署。此举符合红帽致力于开源创新,使公司能够提供更具成本效益、可扩展的人工智能解决方案,减少对专用硬件的依赖。”

关于《红帽通过收购 Neural Magic 押注人工智能》的评论


暂无评论

发表评论

摘要

IBM 旗下的红帽已完成对人工智能优化初创公司 Neural Magic 的收购,并于 2025 年 1 月 13 日完成交易。此次收购旨在增强红帽在混合云环境中的人工智能能力。Neural Magic 专注于使用商用硬件加速生成式 AI 推理工作负载,并提供诸如用于高效大型语言模型服务的 vLLM、用于 CPU 上 GPU 级性能的 DeepSparse、用于预优化模型的 SparseZoo 以及高级模型压缩技术等技术。预计该交易将使人工智能在各种计算环境中更容易使用且更具成本效益。红帽首席执行官马特·希克斯 (Matt Hicks) 认为此举是迈向“人工智能红帽”的一步。IDC 的 Dave McCarthy 对此次收购持积极态度,预计它将提供更具可扩展性的人工智能解决方案,减少对专用硬件的依赖。