英语轻松读发新版了,欢迎下载、更新

并非一切都需要LLM:一个评估AI何时有意义的框架

2025-05-03 19:35:00 英文原文

作者:Sharanya Rao

加入我们的每日和每周的新闻通讯,获取有关行业领先的AI覆盖范围的最新更新和独家内容。了解更多


问题:什么产品应该使用机器学习(ML)?
项目经理答案: 是的。

除了开玩笑之外,生成AI的出现使我们对用例最适合ML的理解达到了理解。从历史上看,我们一直在利用ML可重复的预测模式在客户体验中,但是现在,即使没有整个培训数据集,也可以利用ML的形式。

但是,问题的答案是什么客户需要AI解决方案?大型语言模型(LLMS)对于某些人来说仍然很昂贵,并且与所有ML型号一样,LLM并不总是准确的。在某些情况下,利用ML实现不是正确的途径。作为AI项目经理,我们如何评估客户对AI实施的需求?

有助于做出此决定的主要考虑因素包括:

  1. 满足客户需求所需的输入和输出:客户向您的产品提供了输入,并且您的产品提供了输出。因此,对于Spotify ML生成的播放列表(输出),输入可能包括客户的喜好以及喜欢的歌曲,艺术家和音乐类型。
  2. 输入和输出的组合:客户需求可能会根据他们想要相同或不同输入的相同或不同的输出而有所不同。我们需要对输入和输出进行复制的排列和组合越大,我们需要越需要转向ML与基于规则的系统。
  3. 输入和输出中的模式:所需的输入或输出组合中的模式可帮助您确定需要使用哪种类型的ML模型进行实施。如果输入和输出的组合有模式(例如审查客户的轶事以得出情感分数),请考虑通过LLMS进行监督或半监督的ML模型,因为它们可能更具成本效益。
  4. 成本和精度:LLM的电话并不总是很便宜,并且输出并不总是精确/精确,尽管进行了微调和及时的工程。有时,您最好使用有关神经网络的监督模型,这些模型可以使用固定的标签,甚至基于规则的系统,而不是使用LLM对输入进行分类。

我在下面放了一个快速表,总结了上面的注意事项,以帮助项目经理评估其客户需求,并确定ML实施是否看起来像是正确的途径。

客户需求类型例子ML实施(是/否/取决于)ML实施类型
重复任务,客户需要相同输入的相同输出在线添加我的电子邮件创建基于规则的系统足以帮助您进行输出
重复的任务,客户需要相同输入的不同输出客户处于发现模式,并期望他们采取相同的措施(例如登录帐户)时会有新的体验:

每次点击生成新艺术品

Stumbleupon(还记得吗?)通过随机搜索发现互联网的新角落是的

图像生成LLM建议算法(协作过滤)

客户需要相同/相似输出的重复任务,以便不同的输入

评分论文从客户反馈中产生主题
取决于
如果输入和输出组合的数量足够简单,则确定性的基于规则的系统仍然可以对您有用。 但是,如果您开始具有多种输入和输出组合,因为基于规则的系统无法有效扩展,请考虑依靠:

分类器

主题建模
但是,只有这些输入有模式。 

如果根本没有模式,请考虑使用LLMS,但仅用于一次性场景(因为LLMS不如监督模型那么精确)。

客户需要不同输入的不同输出的重复任务

回答客户支持问题搜索
是的
很少见到示例,您可以在没有ML的情况下为不同输入的不同输入提供不同的输出。基于规则的实施的排列太多,无法有效地扩展。”考虑:

带有检索型发电的LLM(抹布)

•搜索等产品的决策树
具有不同输出的非重复任务

酒店/餐厅的评论是的预读书,这种类型的情况很难完成,而没有接受过特定任务的培训的模型,例如:复发性神经网络(RNN)

•用于预测下一个单词的长短期内存网络(LSTMS)
LLM非常适合这种情况。 

最重要的是:当一对简单的剪刀可以解决问题时,不要使用光剑。

考虑到实施成本和产出的精度,使用上面的矩阵来评估客户的需求,以规模构建准确,具有成本效益的产品。

Sharanya Rao是金融科技集团产品经理。本文中表达的观点是作者的观点,而不一定是公司或组织的观点。每日有关VB每日业务用例的见解

如果您想给老板留下深刻的印象,VB Daily可以为您提供服务。

我们为您提供有关公司在制定AI的工作,从监管转变到实际部署的公司,因此您可以分享最大投资回报率的见解。

阅读我们的隐私政策

感谢您的订阅。查看更多VB时事通讯在这里

发生错误。

关于《并非一切都需要LLM:一个评估AI何时有意义的框架》的评论


暂无评论

发表评论

摘要

本文讨论了生成AI的兴起如何改变了对机器学习(ML)用例的传统观点,并突出了项目经理的关键注意事项,以评估ML实施是否适合其客户的需求。这些考虑因素包括分析输入和输出,识别数据中的模式,评估成本和精度,并根据特定方案选择正确类型的ML模型。这篇文章得出结论,在足够的情况下,应该优先考虑更简单的解决方案,强调评估AI实施的有效性和经济可行性的重要性。