Mistral发布针对笔记本电脑和手机优化的新AI模型 | TechCrunch

2024-10-16 14:49:09 英文原文

作者:Kyle Wiggers

法国人工智能初创公司米斯特拉尔风已经发布了其第一代生成式AI模型,这些模型设计用于边缘设备上运行,如笔记本电脑和手机。

Mistral 所称的“Les Ministraux”这一新的模型系列可以用于或经过微调以适应各种应用,从基本的文本生成到与更强大的模型协同工作完成任务。

有两种Les Ministraux模型可供选择——Ministral 3B和Ministral 8B,它们都有一个128,000令牌的上下文窗口,这意味着它们可以处理大约相当于一本50页书籍长度的内容。

“我们的最具创新精神的客户和合作伙伴越来越多地要求在本地进行隐私优先的推理,以支持关键应用,如设备上的翻译、无互联网智能助手、本地分析和自主机器人。” Mistral在一篇博客文章中。“Les Ministraux被设计为针对这些场景提供计算高效且低延迟的解决方案。”

Ministral 8B今日可供下载——尽管仅限于研究目的。Mistral要求有兴趣进行Ministral 8B或Ministral 3B自部署的开发人员和公司联系以获取商业许可。

否则,开发人员可以使用 Ministral 3B 和 Ministral 8B 通过 Mistral 的云平台 La Platforme 以及其他即将合作的云服务提供商。Ministral 8B 每百万输出/输入代币的价格为 10 美分(约 75 万个单词),而 Ministral 3B 每百万输出/输入代币的价格为 4 美分。

最近有一种趋势是倾向于使用小型模型,这些模型比大型模型更便宜、更快地进行训练、微调和运行。Google继续将其模型添加到其列表中格玛小型模型家族,而微软提供其Φ模型集合。在最近一次更新中它的羊驼套件,元数据介绍了一项新的功能或产品等。由于没有具体上下文,给出一个通用翻译。原文为:"introduced"几个针对边缘硬件优化的小模型。

Mistral声称,Ministral 3B和Ministral 8B的表现优于类似的Llama和Gemma模型——以及其自身的其他模型。墨烈7B在几个用于评估指令遵循和问题解决能力的人工智能基准测试上。

总部位于巴黎的Mistral,哪一部分缺失了请补齐句子再翻译。目前提供的文本不完整,我只能翻译给出的部分。如果是要表达一个公司或实体的位置信息,可以这样补充和翻译: 原文补充为:"总部位于巴黎的Mistral" 翻译结果:总部位于巴黎的Mistral最近筹集了6.4亿美元的风险投资,继续逐步扩大其人工智能产品组合。在过去几个月里,该公司启动了一个免费的服务,供开发者测试其模型,一个SDK让客户微调那些模型,新的模型,包括一个名为代码生成模型的生成式模型Codestral.

由Meta和谷歌DeepMind的校友共同创立的Mistral,其宗旨是创建能够与当今最佳性能模型(如OpenAI的模型)相媲美的旗舰型模型。GPT-4o以及Anthropic的Claude——并理想情况下在此过程中赚钱。虽然“赚钱”这一部分证明颇具挑战性(和大多数生成式AI初创公司一样),Mistral据报道从这个夏天开始产生收入。

关于《Mistral发布针对笔记本电脑和手机优化的新AI模型 | TechCrunch》
暂无评论

摘要

法国人工智能初创公司Mistral发布了其首个为边缘设备(如笔记本电脑和手机)设计的生成式AI模型。有两个Les Ministraux模型可供选择——Ministrals 3B和Ministrals 8B,它们都有128,000个token的上下文窗口大小,这意味着它们可以处理大约50页书籍长度的内容。Mistral要求对Ministrals 8B或Ministrals 3B自部署感兴趣的开发者和公司联系以获取商业许可证。谷歌继续将其Gemma小型模型系列添加新成员,而微软则提供其Phi模型集合。由Meta和Google的DeepMind校友共同创立的Mistral旨在创建与当今最佳性能模型(如OpenAI的GPT-4o和Anthropic的Claude)相媲美的旗舰模型,并希望通过此过程实现盈利。