在《卫报》的一项调查揭露了谷歌的人工智能概述如何向人们提供“非常危险”的医疗建议后，Mind 正在对人工智能和心理健康发起一项重大调查。

在为期一年的委员会中，这家在英格兰和威尔士开展业务的心理健康慈善机构将研究随着人工智能日益影响全球数百万人受心理健康问题影响的人们的生活，所面临的风险和所需的保障措施。

此次调查是全球首次此类调查，将汇集世界领先的医生和心理健康专业人士，以及有生活经验的人士、医疗服务提供者、政策制定者和科技公司。Mind 表示，它将致力于打造一个更安全的数字心理健康生态系统，并提供强有力的监管、标准和保障措施。

此前，《卫报》披露了谷歌人工智能概述中虚假和误导性健康信息如何使人们面临伤害的风险。人工智能生成的摘要每月向 20 亿人展示，并显示在全球访问量最大的网站上的传统搜索结果之上。

报道后，谷歌删除了人工智能概述用于某些但不是全部的医疗搜索。Mind 首席执行官莎拉·休斯 (Sarah Hughes) 博士表示，仍在向公众提供“错误的危险”心理健康建议。她说，在最坏的情况下，虚假信息可能会危及生命。

休斯说：“我们相信人工智能具有巨大的潜力，可以改善有心理健康问题的人们的生活，扩大获得支持的机会，并加强公共服务。但这种潜力只有在负责任地开发和部署、并采取与风险相称的保障措施的情况下才能实现。

– 《卫报》的报道所暴露的问题是我们启动 Mind 人工智能和心理健康委员会的原因之一，该委员会旨在研究随着人工智能更加深入地融入日常生活所面临的风险、机遇和保障措施。

“我们希望确保创新不会以牺牲人们的福祉为代价，并且我们这些有心理健康问题经验的人是塑造数字支持未来的核心。”

谷歌表示，其人工智能概览使用生成式人工智能来提供有关某个主题或问题的基本信息的快照，有帮助的— 和 —可靠—。

但《卫报》发现，一些人工智能概述提供了不准确的健康信息，使人们面临受到伤害的风险。调查发现了涉及癌症、肝病、女性健康以及心理健康状况等一系列问题的虚假和误导性医疗建议。

专家表示，一些针对精神病和饮食失调等疾病的人工智能概述提供了“非常危险的建议”，并且“不正确、有害或可能导致人们避免寻求帮助”。

谷歌还淡化了其人工智能生成的医疗建议可能是错误的安全警告，卫报发现。

休斯说，弱势群体正在接受“关于心理健康的危险且不正确的指导”，其中包括“可能阻止人们寻求治疗、加剧耻辱或歧视，甚至在最坏的情况下将生命置于危险之中的建议”。

她补充道：“人们应该得到安全、准确且有证据支持的信息，而不是披着自信外衣呈现的未经测试的技术。”

该委员会将运行一年，将收集有关人工智能和心理健康交叉点的证据，并提供一个“开放空间”，让患有心理健康问题的人的经历能够被“看到、记录和理解”。

Mind 的信息内容经理 Rosie Weatherley 表示，尽管在人工智能概览之前，谷歌搜索心理健康信息“并不完美”，但通常效果很好。她说：“用户很有可能点击进入一个可靠的健康网站来回答他们的问题，然后进一步提供细微差别、生活经验、案例研究、引言、社会背景和后续的支持旅程。”

人工智能概述用听起来很临床的总结取代了这种丰富性，给人一种确定性的错觉。它们为用户提供了更多的一种形式的清晰度（简洁和简单的英语），同时为他们提供了较少的另一种形式的清晰度（信息来源的安全性以及信任程度）。这是一种非常诱人的交换，但不是一种负责任的交换。”

谷歌发言人表示：“我们在人工智能概述的质量上投入了大量资金，尤其是健康等主题，而且绝大多数都提供了准确的信息。”

– 对于我们的系统识别出某人可能处于困境的查询，我们会努力显示相关的当地危机热线。由于无法查看所引用的示例，我们无法评论其准确性。”