纽约 美国有线电视新闻网～
在多次向用户发送充满错误的头条新闻后，苹果公司暂时取消了其新推出的人工智能功能，该功能可以总结新闻通知，引发新闻机构和新闻自由团体的强烈反对。
在该技术推出后，这家 iPhone 制造商罕见地改变了其大力营销的 Apple Intelligence 功能。产生误导或者完全虚假的新闻标题摘要，看起来与常规推送通知几乎相同。
周四，苹果向开发者部署了测试版软件更新，禁用了新闻和娱乐头条新闻的人工智能功能，并计划稍后向所有用户推出该更新，同时努力改进人工智能功能。该公司计划在未来的更新中重新启用该功能。
作为更新的一部分，该公司表示，用户必须选择的苹果情报摘要将更明确地强调信息是由人工智能生成的，这表明它有时可能会产生不准确的结果。
上个月，英国广播公司向苹果投诉并敦促该公司取消该功能，因为该功能制造了虚假头条新闻，称被控谋杀联合医疗保健首席执行官的路易吉·曼吉奥内(Luigi Mangione)开枪自杀。还有一次，《纽约时报》的三篇文章也被总结在一个推送通知中，错误地声称以色列总理本杰明·内塔尼亚胡已被捕。
BBC 发言人去年 12 月向 CNN 表示，苹果紧急解决这些问题至关重要，因为我们新闻的准确性对于维持信任至关重要。Apple 的这些 AI 总结并不反映（在某些情况下甚至完全矛盾）BBC 的原始内容。
周三，人工智能驱动的功能再次出现错误总结《华盛顿邮报》的一份通知，错误地指出“皮特·赫格斯被解雇”；特朗普关税影响通胀；帕姆·邦迪 (Pam Bondi) 和马可·卢比奥 (Marco Rubio) 已证实。 – 这些都不是真的。
“这是我周期性的咆哮，苹果情报是如此糟糕，以至于今天它的人工智能对《华盛顿邮报》新闻提醒的摘要的所有事实都错了，”该报的科技专栏作家杰弗里·福勒写道。“苹果在人工智能方面做得更好之前，不关闭新闻应用程序的摘要，这是非常不负责任的。”
新闻自由团体还强调了这些摘要对寻求可靠信息的消费者构成的危险，其中记者无国界组织称其“对公众获取可靠时事信息的权利构成威胁”，并且全国记者联盟全球最大的记者工会之一强调“公众不能对他们收到的新闻的准确性进行事后猜测。”两者都呼吁删除人工智能驱动的摘要。
苹果的人工智能问题并不是开发人员第一次不得不应对伪造信息的技术，像 ChatGPT 这样的流行模型经常会产生自信的“幻觉”。
帮助共同撰写白宫蓝图的布朗大学教授苏雷什·文卡塔苏布拉曼尼安 (Suresh Venkatasubramanian) 表示，大语言模型（人工智能工具背后的技术）经过训练，可以根据提示使用“听起来合理的答案”来响应输入对于一个人工智能权利法案， 之前告诉美国有线电视新闻网。
“因此，从这个意义上说，任何听起来合理的答案，无论它是准确的、事实的、编造的还是假的，都是一个合理的答案，这就是它产生的结果，”文卡塔苏布拉马尼安说。“那里没有真理的知识。”
ChatGPT 推出两年后，人工智能幻觉仍然像以前一样普遍。一个2024 年 7 月康奈尔大学、华盛顿大学和滑铁卢大学的研究发现，鉴于顶级人工智能模型有发明信息的倾向，它们仍然不能完全可信。