苹果不准确的人工智能新闻提​​醒表明该技术存在日益严重的错误信息问题

iPhone 上的人工智能功能正在生成虚假新闻警报，引发了人们对该技术传播错误信息能力的担忧。

上周，最近推出的一项功能苹果使用 AI 总结用户通知的应用程序，针对该广播公司有关 PDC 世界飞镖锦标赛半决赛的故事推出了不准确的 BBC 新闻应用通知摘要，错误地声称英国飞镖运动员卢克·利特勒 (Luke Littler) 赢得了冠军。

这起事件发生在比赛决赛前一天，利特勒最终赢得了决赛。

然后，就在该事件发生几小时后，科技巨头的人工智能系统 Apple Intelligence 生成了一份单独的通知，错误地声称网球传奇人物拉斐尔·纳达尔 (Rafael Nadal) 出柜了。

BBC 大约一个月来一直试图让苹果解决这个问题。英国国家广播公司12月向Apple投诉在其人工智能功能生成了一个虚假标题后，暗示路易吉·曼吉奥内 (Luigi Mangione)谋杀案后被捕的男子健康保险公司联合健康保险 (UnitedHealthcare) 纽约的首席执行官布赖恩·汤普森 (Brian Thompson) 开枪自杀，但这从未发生过。

CNBC 联系苹果公司时，并未立即置评。周一，苹果公司告诉 BBC，它正在开发更新来解决该问题，添加一个说明，显示 Apple Intelligence 何时对通知中显示的文本负责。目前，生成的新闻通知显示为直接来自源。

该公司在与 BBC 分享的一份声明中表示：“Apple Intelligence 功能尚处于测试阶段，我们将在用户反馈的帮助下不断进行改进。”苹果补充说，它鼓励用户在查看“意外通知摘要”时报告问题。

BBC 并不是唯一一家因 Apple Intelligence 不准确地总结新闻通知而受到影响的新闻机构。11 月，该功能发送了 AI 汇总的通知错误地声称以色列总理本杰明·内塔尼亚胡已被捕。

调查性新闻网站 ProPublica 的高级编辑 Ken Schwencke 在社交媒体应用程序 Bluesky 上标记了这一错误。

CNBC 已联系 BBC 和《纽约时报》，请其就苹果针对其人工智能功能错误信息问题提出的解决方案发表评论。

苹果公司大肆宣扬其AI 生成的通知摘要作为将新闻应用程序通知预览分组并重写为用户锁定屏幕上的单个警报的有效方法。

这是苹果的一个功能说旨在帮助用户扫描通知以获取关键细节，并减少许多智能手机用户熟悉的大量更新。

然而，这导致了人工智能专家所说的“幻觉”——人工智能生成的响应包含虚假或误导性信息。

“我怀疑苹果公司不会是唯一一家面临人工智能生成内容挑战的公司。我们已经看到了许多人工智能服务自信地说出虚假信息的例子，即所谓的‘幻觉’，”科技市场首席分析师本·伍德 (Ben Wood)研究公司 CCS Insights 告诉 CNBC。

在苹果公司的案例中，由于人工智能试图整合通知并将其压缩为仅显示基本的信息摘要，因此它以一种无法准确描述事件特征的方式将文字混在一起，但又自信地将它们呈现为事实。

伍德补充道：“苹果试图将内容压缩成非常简短的摘要，这增加了复杂性，最终导致了错误的信息。”“毫无疑问，苹果将寻求尽快解决这个问题，我相信竞争对手也会密切关注，看看它会如何回应。”

生成式人工智能的工作原理是依靠其底层大型语言模型所训练的大量数据，尝试找出用户插入的问题或提示的最佳答案。

有时人工智能可能不知道答案。但由于它被编程为始终对用户提示做出响应，这可能会导致人工智能实际上撒谎。

目前尚不清楚苹果何时会修复通知摘要功能中的错误。这家 iPhone 制造商表示，预计一款产品将在“未来几周内”上市。