谷歌删除了部分人工智能健康摘要卫报调查发现人们面临虚假和误导性信息伤害的风险。

该公司表示，其人工智能概览使用生成式人工智能来提供有关某个主题或问题的基本信息的快照，有帮助的— 和 —可靠—。

但出现在搜索结果顶部的一些摘要提供了不准确的健康信息，使用户面临受到伤害的风险。

在专家形容为“危险”且“令人震惊”的一个案例中，谷歌提供了有关重要肝功能测试的虚假信息，这些测试可能会让患有严重肝病的人错误地认为自己是健康的。

《卫报》发现，输入“肝脏血液检测的正常范围”时会出现大量数字，但背景信息很少，而且无法考虑患者的国籍、性别、种族或年龄。

专家表示，谷歌人工智能概述中所说的正常情况可能与实际认为的正常情况存在很大差异。这些总结可能会导致重病患者错误地认为自己的检测结果正常，而懒得参加后续的医疗会议。

调查结束后，该公司删除了搜索词“肝血检查的正常范围是多少”和“肝功能检查的正常范围是多少”的人工智能概述。

谷歌发言人表示：“我们不会对搜索中的个别删除行为发表评论。如果人工智能概述遗漏了某些背景，我们会努力进行广泛的改进，并在适当的情况下根据我们的政策采取行动。”

肝脏健康慈善机构英国肝脏信托基金会的通讯和政策总监 Vanessa Hebditch 表示：“这是个好消息，我们很高兴看到在这些情况下删除了 Google AI 概览。”

– 但是，如果以不同的方式提出问题，仍然可能会给出潜在误导性的人工智能概述，并且我们仍然担心其他人工智能生成的健康信息可能不准确且令人困惑。 –

《卫报》发现，在 Google 中输入原始查询的细微变化（例如“lft 参考范围”或“lft 测试参考范围”）会提示 AI 概述。赫伯迪奇说，这是一个很大的担忧。

– 肝功能测试或 LFT 是不同血液测试的集合。了解结果以及下一步该做什么很复杂，涉及的不仅仅是比较一组数字。

– 但人工智能概述以粗体显示了测试列表，使读者很容易错过这些数字甚至可能不适合他们的测试。

此外，人工智能概述未能警告某人，当患有严重肝病并需要进一步医疗护理时，这些测试可以获得正常结果。这种虚假的保证可能非常有害。”

谷歌，占据全球搜索引擎市场91%的份额，表示正在审查《卫报》提供的新示例。

赫布迪奇说：“我们对这一切更担心的是，它对单个搜索结果挑剔，谷歌可以为此关闭人工智能概述，但它并没有解决健康方面的人工智能概述这一更大的问题。”

患者信息论坛 (Patient Information Forum) 主席苏·法林顿 (Sue Farrington) 向患者、公众和医疗保健专业人员推广循证健康信息，她对删除摘要表示欢迎，但表示她仍然心存疑虑。

– 这是一个很好的结果，但这只是维持对 Google 健康相关搜索结果的信任所需的第一步。仍然有太多 Google AI 概览向人们提供不准确健康信息的例子。”

法灵顿说，全世界数百万成年人已经在努力获取可信的健康信息。“这就是为什么 Google 为人们提供可靠、经过研究的健康信息以及来自值得信赖的健康组织提供的护理服务如此重要的原因。”

人工智能概述仍然会弹出《卫报》最初向谷歌强调的其他例子。其中包括有关癌症和心理健康的信息摘要，专家称这些信息“完全错误”且“非常危险”。

当被问及为什么这些人工智能概述没有被删除时，谷歌表示，它们链接到知名且有信誉的来源，并告知人们何时需要寻求专家建议。

一位发言人表示：“我们的临床医生内部团队审查了与我们分享的内容，发现在许多情况下，这些信息并非不准确，而且也得到了高质量网站的支持。”

科技网站 Futurism 的高级编辑维克多·唐格曼 (Victor Tangermann) 表示，《卫报》的调查结果表明谷歌还有很多工作要做——确保其人工智能工具不会传播危险的健康错误信息—。

谷歌表示，人工智能概述仅出现在对响应质量高度有信心的查询上。它补充说，该公司不断衡量和审查许多不同类别信息摘要的质量。

在一篇文章中搜索引擎杂志资深作家马特·南 (Matt Southern) 表示：“人工智能概述出现在排名结果之上。当主题是健康时，错误就更重要。 –