英语轻松读发新版了,欢迎下载、更新

您的AI,您的规则:为什么BYO-LLM“带上自己的LLM”是未来

2025-02-17 15:21:49 英文原文

作者:Will WilliamsSocial Links NavigationCTO of Speechmatics.

一件型的年龄人工智能似乎正在崩溃。当企业急于嵌入人工智能在他们的运营中,出现了一个鲜明的现实:通用语言模型,虽然令人印象深刻,但在面对专业的行业需求时常常绊倒。

对于我们这些在语音AI等领域工作的人来说,这种局限性尤其明显,因为我们的技术是复杂的理解和行动链中的第一步。如果AI无法掌握特定于行业的行话或产生上下文适当的响应,将语音转换为文本无意义。最近在医疗领域工作,我们看到了如何将精确的语音识别与专业混合在一起LLMS可能意味着准确的诊断转录和潜在危险错误之间的差异。

输入“带上自己的LLM”(BYO -LLM) - 关于企业如何使用AI集成的不断发展的共识。时机是完美的:LLM景观爆炸了,诸如DeepSeek和Mistral具有挑战性的新贵Openai谷歌的统治地位,证明创新不仅限于硅谷的围墙花园。

摆脱大型技术

每个行业都会说自己的语言 - 从法律公司解析判例法到解码技术手册的制造商。这种专业恰恰是为什么供应商锁定已成为技术行业最古老的陷阱的原因。

随着技术以扭曲速度的发展,将整个堆栈押注在单个提供商的LLM上越来越有风险。BYO -LLM提供了一条逃生路线 - 如果出现更好的模型,公司就可以迅速转动而无需进行完整的基础设施大修。

合规角使这种自由更加关键。诸如GDPR之类的法规要求严格的数据控制,BYO -LLM使组织可以在本地托管模型或选择符合区域合规性标准的提供商 - 对于数据主权不可谈判的部门至关重要。

开源革命

DeepSeek的出现标志着一个转折点:LLM发展的障碍正在下降,即使仍然存在战略障碍。

尽管拥抱面孔等平台已经使访问预训练的模型民主化,但创建有竞争力的LLM仍然需要认真的资源。对艺术状态的填补变得越来越容易,现在是一种非常快速的方法企业维护IP并具有特定于特定的LLM,该LLM了解其用例。

开源对基础模型级别和可供使用的填充工具都至关重要。

建立自己的野兽

对于关注自己的LLM旅程的组织,培训基础模型的价格标签可以达到八个数字。微调现有模型便宜,但仍需要大量投资。您的购物清单包括精英数据科学家(指挥天文薪水),严重的计算肌肉和清洁,正确标记的数据的山脉。

模型效率不是可选的 - 实时申请,每毫秒的延迟都会杀死用户体验。级联系统可以通过分阶段处理语音来解决这一问题,但优化仍然是一个持续的挑战。

将安全要求和本地部署添加到混音中,您的基础架构需要乘以。

构建与整合困境

除非您的差异化合物取决于基础专有AI,否则大多数公司将从整合既定模型中受益。关键是知道何时建造和何时借用。对于实时应用程序,您需要健壮基础设施 - 思考本地部署,可扩展的计算资源以及可以处理技术复杂性和特定于行业要求的团队。

AI的未来并不是要拥有最大的模型,而是要拥有合适的模型。随着开源创新的加速和专业模型的加速,成功将获得成功的人,可以无缝地整合每个任务的完美工具。

通用AI死了。定制革命万岁!

我们介绍了最佳的AI网站构建器。

本文是Techradarpro的专家见解频道的一部分,在该频道中,我们以当今技术行业的最佳和最聪明的头脑为特色。这里表达的观点是作者的观点,不一定是Techradarpro或Future Plc的观点。如果您有兴趣贡献更多信息:https://www.techradar.com/news/submit-your-story-story-totor-to-techradar-pro

注册techradar Pro新闻通讯,以获取您的业务成功所需的所有新闻,意见,功能和指导!

关于《您的AI,您的规则:为什么BYO-LLM“带上自己的LLM”是未来》的评论


暂无评论

发表评论

摘要

随着企业在专业行业中面临通用语言模型的限制,一定程度的ALL AI的时代即将结束。“带上自己的LLM”(BYO-LLM)方法允许企业整合自定义或第三方大型语言模型,从而提供灵活性并符合特定于行业的需求。此方法使更快地转移到更好的模型,遵守数据主权法规以及对实时应用程序的自定义。诸如DeepSeek之类的开源计划正在降低LLM开发的障碍,使公司更容易针对特定领域的用例微调现有模型。AI的未来在于,将适当的模型量身定制为每个任务,而不是最大或最通用的模型。