真实医生的人工智能深度伪造在社交媒体上传播健康错误信息

TikTok 和其他社交媒体平台正在托管人工智能生成的深度造假医生视频，这些医生的言论被操纵，以帮助销售补充剂和传播健康错误信息。

事实核查组织 Full Fact 发现了数百个此类视频以冒充医生和影响者的版本为特色，引导观众前往美国补充剂公司 Wellness Nest。

所有深度伪造都涉及从互联网上获取的健康专家的真实镜头。然而，图片和音频经过了重新设计，演讲者鼓励更年期女性从该公司网站购买益生菌和喜马拉雅芝等产品。

这些爆料促使人们呼吁社交媒体巨头在托管人工智能生成的内容时更加谨慎，并更快地删除扭曲名人观点的内容。

“这无疑是一种险恶且令人担忧的新策略，”负责调查的事实核查员利奥·本尼迪克特斯 (Leo Benedictus) 说道，《Full Fact》于周五发表了这项调查。

他补充说，深度伪造健康视频的创作者部署了人工智能，以便“受人尊敬或拥有大量观众的人似乎会认可这些补充剂来治疗一系列疾病”。

利物浦大学健康不平等问题专家大卫·泰勒-罗宾逊教授是形象被操纵的人之一。8 月，他震惊地发现 TikTok 上有 14 个经过篡改的视频，据称向他推荐了未经证实的好处的产品。

尽管泰勒-罗宾逊是儿童健康方面的专家，但在一段视频中，他的克隆版正在谈论一种所谓的更年期副作用，称为“温度计腿”。

假泰勒罗宾逊建议更年期女性应该访问一个名为 Wellness Nest 的网站，购买所谓的天然益生菌，其中含有“10 种经过科学支持的植物提取物，包括姜黄、黑升麻、Dim [二吲哚基甲烷] 和辣木，专门用于解决更年期症状”。

这位 Deepfake 医生补充道，女同事经常报告称，几周内睡眠更深、潮热更少、早晨更明亮。

真正的泰勒·罗宾逊只有在同事提醒他时才发现他的肖像被使用。“一开始确实令人困惑，一切都非常超现实，”他说。– 我的孩子们认为这很搞笑。

“我并没有感到强烈的侵犯，但我确实对人们利用我的工作以及涉及的健康错误信息出售产品的想法感到越来越恼火。”

泰勒-罗宾逊用来制作深度伪造视频的片段来自他在一次公众演讲中关于疫苗接种的演讲健康2017 年英格兰 (PHE) 会议以及今年 5 月举行的关于儿童贫困问题的议会听证会上他提供了证据。

在一段误导性视频中，他在讨论更年期时咒骂并发表厌恶女性的言论。

在泰勒-罗宾逊提出投诉六周后，TikTok 下架了这些视频。– 最初，他们表示有些视频违反了他们的准则，但有些视频没有问题。这很荒谬，也很奇怪，因为所有这些都是我的，而且它们都是深度赝品。把它们拿下来是一件很费力的事，”他说。

Full Fact 发现 TikTok 还携带八个深度伪造的内容，其中包含英国公共卫生局前首席执行官邓肯·塞尔比 (Duncan Selbie) 的篡改声明。和泰勒·罗宾逊一样，他也被错误地展示了关于更年期的内容，视频使用的是泰勒·罗宾逊在 2017 年发表演讲的同一个活动中拍摄的视频。

塞尔比说，一段视频也是关于“温度计腿”的，是“令人惊叹的模仿”。——从头到尾都是假的。从人们关注这些事情的意义上来说，这并不好笑。”

Full Fact 还在 X、Facebook 和 YouTube 上发现了类似的深度伪造品，所有这些都与 Wellness Nest 或一家名为 Wellness Nest UK 的英国连锁店有关。它发布了蒂姆·斯佩克特教授和另一位饮食专家已故迈克尔·莫斯利博士等知名医生的明显深度造假。迈克尔·莫斯利。

该公司表示，它“从未使用过人工智能生成的内容”，但“无法控制或监控世界各地的附属公司”。

自由民主党卫生发言人海伦·摩根 (Helen Morgan) 表示：“从假医生到鼓励自杀的机器人，人工智能正在被用来伤害无辜者，并利用我们卫生系统中不断扩大的裂缝。”

– 自由民主党呼吁铲除冒充医疗专业人员的人工智能深度造假者，并大力推广经临床批准的工具，以便我们可以填补这一真空。

– 如果这些人冒充医生，他们将面临刑事起诉。为什么数字等价物能够被容忍？

“当有人向人工智能机器人寻求健康建议时，他们应该被自动转介给 NHS 支持，这样他们就可以获得真正需要的诊断和治疗，那些从医疗虚假信息中获利的人将承担刑事责任。”

TikTok 发言人表示：—我们删除了此内容（与泰勒-罗宾逊和塞尔比有关），因为它违反了我们针对有害错误信息和试图误导我们社区的行为（例如冒充）的规则。

– 有害地误导人工智能生成的内容是全行业面临的挑战，我们将继续投资新方法来检测和删除违反社区准则的内容。 –

我们联系了卫生和社会保障部征求意见。