英语轻松读发新版了,欢迎下载、更新

PrimerAI推出“近乎零幻觉”更新至人工智能平台

2024-10-16 16:00:00 英文原文

作者:By Riley Ceder Oct 16, 2024, 04:00 PM

一家与美国政府签订合同的人工智能公司表示,其人工智能系统对大型数据集的分析可以产生几乎完美的结果。 (Oliver Berg/via Getty Images)

一家与美国政府签订合同的人工智能公司表示,其人工智能系统对大规模数据集的分析可以产生几乎完美的结果。

PrimerAI宣布了美国国防部于10月14日宣布,其人工智能平台的更新可以实现接近零的幻觉率,该公司认为这一结果对整个国防部和国防工业都有更广泛的影响。

“幻觉”术语 在人工智能术语中指的是模型生成错误的结果。

在高风险环境中,精度和时间线至关重要时,该公司新闻稿称,Primer的增强平台成为了一种变革性的解决方案。

普林AI首席执行官肖恩·莫里亚蒂在接受《军事时报》电话采访时表示了他对系统变更的看法。

摩里尔说,虽然许多人工智能平台的幻觉率是10%,但PrimerAI已经将其降低到了0.3%。

普瑞米尔AI界面的截图,展示了检索增强生成验证过程。( Cindy Ma/普瑞米尔AI)

更新的最大好处是能够核查自己的结果。

该公司称其专有系统能够捕获超过99%在到达用户之前出现的错误,该系统被称为检索增强生成验证系统。大型语言模型(LLM),即能够理解和处理人类语言的AI系统,在收到提示时已经使用了检索增强生成技术。ChatGPT就是一个典型的例子。

普赖默AI系统新颖之处在于,一旦生成响应或摘要,它会为该摘要生成一个声明,并通过源数据来验证该声明,这是普赖默AI的高级产品经理辛迪·马所透露的。

马表示,这一额外的修订层导致错误呈指数级减少。马在华盛顿特区举行的美国陆军协会年度会议上亲自演示了该系统。., 10月14日

相关联的

PrimerAI认为,对于国防部而言,提供一个大的误差缓冲区是最重要的,因为小的错误也可能引发剧烈的反应。

“想象一个世界,在这个世界里,一个大型语言模型声称对手拥有的航空母舰数量是实际数量的五倍,”Moriarty说。

莫里亚蒂承认,尽管追求完美无瑕,仍然存在犯错的空间。即使高质量的参考数据是AI系统分析的基础,还是会有被扭曲的部分。数据本身也可能因人类的判断而受到污染。

“虽然我们致力于实现零缺陷,但我们的世界并不是一个零缺陷的世界,”梅里迪斯说道。

Riley Ceder 是《Military Times》的编辑研究员,负责报道突发新闻、刑事司法和人文故事。此前,他曾作为调查实习学生在《华盛顿邮报》工作,并为“徽章下的虐待”调查做出了贡献。

关于《PrimerAI推出“近乎零幻觉”更新至人工智能平台》的评论


暂无评论

发表评论

摘要

一家与美国政府签订合同的人工智能公司表示,其AI系统对大型数据集的分析可以产生近乎完美的结果。(虽然许多人工智能平台的幻觉率为10%,但Moriarty说,PrimerAI已经将其降至了0.3%。展示PrimerAI界面中检索增强生成验证过程的一个截图。(尽管追求完美,Moriarty也承认总是存在出错的空间。数据本身可能因人类判断而受到污染。Riley Ceder是《军事时报》的编辑研究员,在那里他报道突发新闻、刑事司法和人道主义故事。