英语轻松读发新版了,欢迎下载、更新

用机器学习容器简化AI开发

2025-01-28 15:49:05 英文原文

作者:Richard MacManus

复制具有非常简单的前提:在云中运行和共享机器学习模型,使用容器技术。听起来很熟悉吗?这可能是因为复制的创始人兼首席执行官本·菲什曼(Ben Firshman),以前是无花果的创建者被Docker收购然后成为Docker组成。

复制是Firshman及其业务伙伴的最终结果安德烈亚斯·詹森(Andreas Jansson)想要创建类似的技术机器学习

将容器带到AI

Firshman和Jansson首先创造了一种名为的产品齿轮,他已经描述为根据Firshman的说法,COG的Docker。Firshman和Jansson开源,但与许多开源的开发人员一样,Firshman和Jansson随后创建了一个云平台来商业化该技术,称为Replicate。

根据它的文档,复制â允许您使用云API运行AI模型,而不必了解机器学习或管理自己的基础架构。

COG基本上抽象了部署机器学习应用程序的技术方面。但类似于模态,AI应用程序的无情平台我上周对此进行了介绍,主要租用运行这些模型所需的计算。

firshman解释说,我们没有自己的GPU在潜在太空播客上去年。我们有一些与生产工作量一起玩的东西。我们主要建立在公共云上,因此主要是GCP和Coreweave,以及其他地方的一些Smatters。

帮助Devs使用LLMS

复制的关键之一是,它允许开发人员使用开源LLM型号自定义,微调和修补器。正如Firshman在播客中指出的那样,开源的全部要点是,您可以修补它,您可以自定义它,您可以对其进行微调,并且可以将其与另一种型号一起使用。

当Meta发布它的开源骆驼模型,因为这当然可以使开发人员比Openai和Openai和谷歌。Firshman说,关于Llama 2作为基本模型的美丽事物是您可以以50美元的价格微调它。”这是开源生态系统如此美丽的事情。

就在本周,随着中国公司突然出现,开源的LLM生态系统又一次射击了手臂声称已建造推理LLM(称为R1),是Openai最强大的模型O1。开发人员和媒体仍在提出这一说法,但是对于开发人员来说,这无疑是个好消息 - 用户可以修改的开源模型越好!

``只需开始玩它,了解语言模型的工作原理,了解这些扩散模型的工作方式,感觉如何进行微调以及如何工作!
复制首席执行官本·菲什曼(Ben Firshman)

从开发人员的角度来看,诸如复制和模态之类的平台是一个福音,因为它们可以在应用程序中使用机器学习技术。在潜在的太空播客中,Firshman将其比作何时将开发人员介绍给1990年代的Web开发平台。

您不需要挖掘[]Pytorch级别,如果您不想以与90年代的软件工程师相同的方式[没有]不需要理解网络堆栈如何工作才能构建网站。但是您需要了解这件事的形状。

他敦促开发人员了解现代AI,因为它在应用程序开发领域越来越重要。

•只是开始玩耍,了解语言模型的工作原理,了解这些扩散模型的工作方式,感觉如何进行微调以及它的工作原理,因为您的某些工作您知道,可能正在构建数据集。感觉到提示的工作原理,因为您的某些工作可能正在编写提示。这些都是非常重要的技能。

大量的AI模型

去年11月,在接受他的一位投资者A16Z的采访时,Firshman说复制生态系统中大约有20,000个型号。这些包括模型这会产生或增强图像和视频,转录模型,聊天或音乐模型,可帮助您制作3D内容的模型,等等。到目前为止,最受欢迎的模态,截至写作时,有7.269亿次运行SDXL光线由Tiktok所有者绑定,被描述为一种快速的文本到图像模型,可在4个步骤中制作高质量的图像。”

Firshman还说,在一次采访中与组装AI,我们主要是为初创企业建造的。

当我们说初创公司时,这两个实际创业公司都在大型公司内部的小型团队,这些公司表现得像初创公司一样,”他澄清了。这些团队拥有很多成功的建设,例如AI原生的整个产品,或者喜欢对产品内某些事物的特定点解决方案。

他补充说,一些Replicate的客户将其用于微调语言模型,但这不是主要用例。

民主AI:为什么开源模型很重要

复制和模态都是一种新型平台的好示例,为开发人员提供价值:通过将AI集成到应用程序中,通过将机器学习技术的许多复杂性抽象来将AI集成到应用程序中。

您还可以说,复制正在通过使开发人员自定义和/或微调模型(例如Meta)来帮助对开源LLM模型的访问进行民主化。骆驼3(最新的骆驼版) - 甚至尝试了DeepSeek S R1等尖端模型。

尽管Openai和其他行业重量级人物保持了最强大的模型,例如Replicate这样的最强大的模型表明,虽然Openai和其他行业的重量级都可以在AI工程生态系统中如何蓬勃发展。修补匠的开放模型越多,对于开发人员来说,它就会越好。

团体 用草图创建。

关于《用机器学习容器简化AI开发》的评论


暂无评论

发表评论

摘要

Replicate是一个云平台,使用户可以使用容器技术运行和共享机器学习模型。由Ben Firshman创立,他以前创建了无花果(Docker),重复旨在简化开发人员的AI应用程序的部署。该公司的产品COG使得可以轻松在容器中包装ML型号,以共享和部署生产。Replicate提供了一个云API,该云API允许用户在无需机器学习或基础架构管理方面的专业知识的情况下运行AI模型。它支持诸如Meta的Llama之类的开源LLM的定制和微调,使对强大的AI技术的访问民主化。在其生态系统中有大约20,000个模型,重复了大型公司内的目标初创公司和小型团队,从而通过抽象复杂的ML流程来促进AI集成到应用中。