一家与美国政府签订合同的人工智能公司表示,其人工智能系统对大规模数据集的分析可以产生几乎完美的结果。
PrimerAI宣布了美国国防部于10月14日宣布,其人工智能平台的更新可以实现接近零的幻觉率,该公司认为这一结果对整个国防部和国防工业都有更广泛的影响。
“幻觉”术语 在人工智能术语中指的是模型生成错误的结果。
在高风险环境中,精度和时间线至关重要时,该公司新闻稿称,Primer的增强平台成为了一种变革性的解决方案。
普林AI首席执行官肖恩·莫里亚蒂在接受《军事时报》电话采访时表示了他对系统变更的看法。
摩里尔说,虽然许多人工智能平台的幻觉率是10%,但PrimerAI已经将其降低到了0.3%。
更新的最大好处是能够核查自己的结果。
该公司称其专有系统能够捕获超过99%在到达用户之前出现的错误,该系统被称为检索增强生成验证系统。大型语言模型(LLM),即能够理解和处理人类语言的AI系统,在收到提示时已经使用了检索增强生成技术。ChatGPT就是一个典型的例子。
普赖默AI系统新颖之处在于,一旦生成响应或摘要,它会为该摘要生成一个声明,并通过源数据来验证该声明,这是普赖默AI的高级产品经理辛迪·马所透露的。
马表示,这一额外的修订层导致错误呈指数级减少。马在华盛顿特区举行的美国陆军协会年度会议上亲自演示了该系统。., 10月14日
相关联的
PrimerAI认为,对于国防部而言,提供一个大的误差缓冲区是最重要的,因为小的错误也可能引发剧烈的反应。
“想象一个世界,在这个世界里,一个大型语言模型声称对手拥有的航空母舰数量是实际数量的五倍,”Moriarty说。
莫里亚蒂承认,尽管追求完美无瑕,仍然存在犯错的空间。即使高质量的参考数据是AI系统分析的基础,还是会有被扭曲的部分。数据本身也可能因人类的判断而受到污染。
“虽然我们致力于实现零缺陷,但我们的世界并不是一个零缺陷的世界,”梅里迪斯说道。
Riley Ceder 是《Military Times》的编辑研究员,负责报道突发新闻、刑事司法和人文故事。此前,他曾作为调查实习学生在《华盛顿邮报》工作,并为“徽章下的虐待”调查做出了贡献。