人工智能生成的图像看起来就像真人一样。虽然警方公布的照片从未完全显示嫌疑人的脸部，但经过处理的图像扭曲了他的面部特征。其他人则填充了原作过于模糊的细节，皮肤看起来像是被喷过的，眼睛更大，有效地让他看起来像一个完全不同的人。

这些经过处理的图像助长了 12 月 13 日枪击事件后猖獗的阴谋论和谣言。

关于枪手的虚假说法在网上被机器人、民选官员、有影响力的人和甚至是杰出的商业领袖。有传言称，枪击事件针对一名受害者，原因是她的保守信仰。另一个说法是，枪手在开枪前用阿拉伯语喊了一些话。一项广为流传的说法名为布朗大学的巴勒斯坦学生作为一个可能的嫌疑人，错误地将他标记为杀手。他在互联网上饱受折磨，数百万人浏览了他的照片和名字。

“无休无止的错误信息、虚假信息、谣言、泄密和点击诱饵对这次调查没有帮助，”罗德岛州警察局长达内尔·韦弗上校在 12 月 18 日的新闻发布会上表示，当时调查人员确认枪手是克劳迪奥·曼努埃尔·内维斯·瓦伦特，他被发现死在新罕布什尔州的一个储存设施中。– 干扰和毫无根据的批评不支持这项工作。他们使事情变得复杂，并有可能破坏我们所寻求的正义。”

本周负责该举报中心的普罗维登斯警官布莱恩·戴尔回忆说，他至少收到过一条举报，其中有打电话的人报告称使用基于人工智能的工具来识别嫌疑人。他说，他们提供的名字完全不准确，并且“与调查无关”。

普罗维登斯警方发言人克里斯蒂·多斯雷斯 (Kristy DosReis) 表示，该部门收到了 1000 多条与调查相关的举报。她说，在许多情况下，人工智能生成的图像“分散了公众对实际嫌疑人图像的注意力”。

类似的情况在九月被杀后也出现过。保守派活动家查理·柯克，当时人工智能生成的“证据”和图像的传播速度比官方更新的速度还要快。犹他州当地治安官办公室甚至还分享了一张假图片嫌疑人被人工智能操纵，他的眼镜和衬衫贴花变形，皮肤看起来超级光滑。然而它 被分享超过1,000次。随后，该办公室不得不撤回其岗位。

处理人工智能生成的图像——是我们的新现实，”说吉姆·布尔曼是一位来自加利福尼亚州雷德兰兹的退休警察局长，也是该组织的创始人未来警务研究所，一个智囊团。– 欢迎来到 2026 年。情况只会变得更糟。 –

专家表示，这些案例并不是一次性的。

Ben Colman，深度伪造检测公司联合创始人兼首席执行官现实捍卫者说，在重大刑事调查期间，人工智能生成的图像的传播已经成为“日常现象”。

“挑战在于这些工具如此普遍，”科尔曼说，他的纽约公司扫描图像、音频和视频，以确定内容是否是通过人工智能生成或操纵的。生成式人工智能工具“任何人都可以使用”，他说。“你不需要技术学位。你不需要成为计算机科学专家或程序员。”

“我 8 岁的儿子，我 80 岁的父母，他们能做出的东西只受他们想象力的限制，无论是有趣的还是极其危险的，”科尔曼补充道。

科尔曼说，这些工具的可访问性已经超过了监管和检测素养。

“目前还没有任何法规要求传播该信息的平台，无论是社交媒体还是流媒体，必须将事物标记为真实或不真实，”他说。他说，有些工具已经变得非常先进，即使是他周围的研究人员和工程师也无法再仅凭视觉识别人工智能生成的内容。– 许多平台无所作为。 –

直到最近，大多数社交媒体平台都依赖创作者自愿 披露他们自己对人工智能的使用。但许多网站并没有这样做，尽管一些网站有办法检测视频是否是使用人工智能制作的，但它们并不总是立即向用户标记人工智能生成的内容。

一些社交媒体平台，包括X,抖音、Meta 的 Instagram 和 Facebook，通过“社区笔记”（一种众包事实检查工具）来标记人工智能。但科尔曼表示，此类工具对于已经病毒式传播的内容几乎没有什么用处。另外，这些工具并不完善。

2024年报告反数字仇恨中心发现 X 的社区笔记功能并未成功覆盖大多数平台用户。该报告发现，X 上有关美国选举虚假陈述的准确社区注释中有 74% 从未向用户展示过，而没有社区注释的宣扬有关美国政治的虚假叙述的帖子却获得了数十亿次浏览。该中心首席执行官伊姆兰·艾哈迈德 (Imran Ahmed) 表示，虚假帖子的传播范围是经过事实核查的帖子的 13 倍。

在追捕布朗枪击事件几天后，普罗维登斯警察局试图通过一个专门网站来打击病毒式的人工智能增强图像，仅显示与调查相关的经过验证的图像和视频。所有这些图像都带有水印，表明它们已正式发布并经过验证。尽管如此，这并没有阻止一些人操纵经过验证的图像，然后将它们重新传播到其他地方。

“水印实际上不再表示真实性，” 科尔曼说道。

阴谋论和虚假图像也让布朗社区的成员在狩猎期间和之后感到沮丧。一种阴谋论坚称枪击事件发生的报告厅里有摄像头，尽管该大学一再证实没有摄像头。在巴鲁斯和霍利大楼工作的研究生凯文·洛朱迪斯 (Kevin LoGiudice) 表示，当他告诉布朗大学以外的人，布朗大学并没有隐瞒任何事情时，他们并不相信他。

“如果人们脑子里有一个想法，他们就会照着做，”该大学研究生委员会主席洛朱迪斯说。“我可以告诉人们某些事情不是真的，但他们不会相信过去几年里每天都在那里的人，而是相信随机的人在谷歌地图上查看，一些网站做出假设。。。以及其他网上错误信息。

调查结束后，枪手的一些人工智能增强图像被离线保存。但专家警告称，警方的下一次重大调查迟早会导致人工智能生成的图像和视频出现在网上，这只是时间问题。

“目前没有人知道我们在网上看到的内容是否有 10% 或 90% 是人工智能，”Dean Drako 说道，他是鹰眼网络是一家德克萨斯州公司，提供使用人工智能的视频监控产品。

“我们甚至还没有到达冰山一角。”

Alexa Gagosz 的联系方式为alexa.gagosz@globe.com。跟着她@alexagagosz以及Instagram上@AlexaGagosz。