作者:Richard MacManus
复制具有非常简单的前提:在云中运行和共享机器学习模型,使用容器技术。听起来很熟悉吗?这可能是因为复制的创始人兼首席执行官本·菲什曼(Ben Firshman),以前是无花果的创建者被Docker收购然后成为Docker组成。
复制是Firshman及其业务伙伴的最终结果安德烈亚斯·詹森(Andreas Jansson)想要创建类似的技术机器学习。
Firshman和Jansson首先创造了一种名为的产品齿轮,他已经描述为根据Firshman的说法,COG的Docker。Firshman和Jansson开源,但与许多开源的开发人员一样,Firshman和Jansson随后创建了一个云平台来商业化该技术,称为Replicate。
根据它的文档,复制â允许您使用云API运行AI模型,而不必了解机器学习或管理自己的基础架构。
COG基本上抽象了部署机器学习应用程序的技术方面。但类似于模态,AI应用程序的无情平台我上周对此进行了介绍,主要租用运行这些模型所需的计算。
firshman解释说,我们没有自己的GPU在潜在太空播客上去年。我们有一些与生产工作量一起玩的东西。我们主要建立在公共云上,因此主要是GCP和Coreweave,以及其他地方的一些Smatters。
复制的关键之一是,它允许开发人员使用开源LLM型号自定义,微调和修补器。正如Firshman在播客中指出的那样,开源的全部要点是,您可以修补它,您可以自定义它,您可以对其进行微调,并且可以将其与另一种型号一起使用。
当Meta发布它的开源骆驼模型,因为这当然可以使开发人员比Openai和Openai和谷歌。Firshman说,关于Llama 2作为基本模型的美丽事物是您可以以50美元的价格微调它。”这是开源生态系统如此美丽的事情。
就在本周,随着中国公司突然出现,开源的LLM生态系统又一次射击了手臂声称已建造推理LLM(称为R1),是Openai最强大的模型O1。开发人员和媒体仍在提出这一说法,但是对于开发人员来说,这无疑是个好消息 - 用户可以修改的开源模型越好!
``只需开始玩它,了解语言模型的工作原理,了解这些扩散模型的工作方式,感觉如何进行微调以及如何工作!
复制首席执行官本·菲什曼(Ben Firshman)
从开发人员的角度来看,诸如复制和模态之类的平台是一个福音,因为它们可以在应用程序中使用机器学习技术。在潜在的太空播客中,Firshman将其比作何时将开发人员介绍给1990年代的Web开发平台。
您不需要挖掘[]Pytorch级别,如果您不想以与90年代的软件工程师相同的方式[没有]不需要理解网络堆栈如何工作才能构建网站。但是您需要了解这件事的形状。
他敦促开发人员了解现代AI,因为它在应用程序开发领域越来越重要。
•只是开始玩耍,了解语言模型的工作原理,了解这些扩散模型的工作方式,感觉如何进行微调以及它的工作原理,因为您的某些工作您知道,可能正在构建数据集。感觉到提示的工作原理,因为您的某些工作可能正在编写提示。这些都是非常重要的技能。
去年11月,在接受他的一位投资者A16Z的采访时,Firshman说复制生态系统中大约有20,000个型号。这些包括模型这会产生或增强图像和视频,转录模型,聊天或音乐模型,可帮助您制作3D内容的模型,等等。到目前为止,最受欢迎的模态,截至写作时,有7.269亿次运行SDXL光线由Tiktok所有者绑定,被描述为一种快速的文本到图像模型,可在4个步骤中制作高质量的图像。”
Firshman还说,在一次采访中与组装AI,我们主要是为初创企业建造的。
当我们说初创公司时,这两个实际创业公司都在大型公司内部的小型团队,这些公司表现得像初创公司一样,”他澄清了。这些团队拥有很多成功的建设,例如AI原生的整个产品,或者喜欢对产品内某些事物的特定点解决方案。
他补充说,一些Replicate的客户将其用于微调语言模型,但这不是主要用例。
复制和模态都是一种新型平台的好示例,为开发人员提供价值:通过将AI集成到应用程序中,通过将机器学习技术的许多复杂性抽象来将AI集成到应用程序中。
您还可以说,复制正在通过使开发人员自定义和/或微调模型(例如Meta)来帮助对开源LLM模型的访问进行民主化。骆驼3(最新的骆驼版) - 甚至尝试了DeepSeek S R1等尖端模型。
尽管Openai和其他行业重量级人物保持了最强大的模型,例如Replicate这样的最强大的模型表明,虽然Openai和其他行业的重量级都可以在AI工程生态系统中如何蓬勃发展。修补匠的开放模型越多,对于开发人员来说,它就会越好。
youtube.com/thenewstack
技术移动很快,不要错过一集。订阅我们的YouTube渠道播放我们所有的播客,访谈,演示等等。