当一段音频片段似乎显示当地学校校长发表贬义言论时，它在网上疯传，引发了针对这位教育工作者的死亡威胁，并在巴尔的摩市外的郊区引起了连锁反应。但它很快就被揭露为假货，由人工智能操纵 - 那么为什么人们仍然相信它是真的呢？
我真的不明白为什么我每天都要忍受这些蠢货。
于是，派克斯维尔高中校长开始了一段看似长篇大论的长篇大论，其中不时出现种族主义、反犹太主义和攻击性的比喻。听起来像是被偷偷录制的。
演讲者接着哀叹社区中忘恩负义的黑人孩子和犹太人。
这段视频于一月份首次发布，在全国范围内疯传。但这确实触动了派克斯维尔宁静、绿树成荫的郊区和附近的马里兰州巴尔的摩市的神经，派克斯维尔有大量的黑人和犹太社区。校长埃里克·艾斯沃特 (Eric Eiswert) 已被带薪行政休假，等待调查。
居住在巴尔的摩附近的黑人阿尔菲·马龙 (Alfie Malone) 发现他社区的其他成员发布了这段视频，并认为这是真实的。
马龙先生说，在你的内心深处，你认为这可能是人们对我们的真实感受。然后听到实际遇到的音频。
为了证实他所听到的内容，马龙先生在社交媒体上查看了艾斯沃特先生的其他真实录音，它们听起来是一样的。
因此，兼职邮递员、兼职播客点击了重新分享按钮。
随着越来越多的人在网上传播，这段视频开始在社交媒体上受到关注。分享次数最多的版本之一在数小时内就突破了 200 万次观看次数。这已经是派克斯维尔总人口的 60 倍左右。
但那些分享该剪辑的人当时没有意识到，另一个重磅炸弹即将落下：该剪辑是人工智能生成的假视频。
在 BBC Radio 4 的《Why Do You Hate Me USA》节目中，我一直在马里兰州调查该剪辑对该镇的影响。它读起来几乎就像一个关于人工智能带来的危险的寓言，特别是当当地社区成为目标时。
当这段视频出现在《巴尔的摩旗帜报》教育记者克里斯汀·格里菲斯 (Kristen Griffith) 的办公桌上时，她认为这将是一个相对简单的故事，讲述的是一位老师因发表攻击性言论而被曝光的故事。
但按照新闻业的最佳实践，格里菲斯女士希望给校长机会发表评论并讲述他的故事。因此，她联系了他的工会代表，后者表示艾斯沃特先生不仅谴责了这些言论，而且他也没有发表这些言论。
他立即说道，哦，我们认为这是假的，“我们相信这是人工智能”，她告诉 BBC。我以前没听说过这个角度。
但当她发表这一解释时，她的读者并不相信。它非但没有引起人们对视频真实性的质疑，反而激起了人们的强烈反对，他们认为造假指控只是一个借口或试图逃避责任。
此时，当地警方开始调查此案。派克斯维尔高中的工作人员告诉他们，由于所有的关注，他们感到不安全，他们担心学校被录音设备窃听。
艾斯沃特校长的声誉也受到了严重打击。他和学校周围都加强了安保措施。他成为社交媒体仇恨和威胁的目标。我在社交媒体上发现了数十条针对他的辱骂信息。
然后在四月份，巴尔的摩警察局长罗伯特·麦卡洛证实，他们现在有确凿的证据证明录音不真实。
他们相信自己知道是谁制造了假货。
警方对 31 岁的学校体育主任达中·达里恩 (Dazhon Darien) 提出多项与虚假视频相关的指控。指控包括盗窃、报复目击者和跟踪。
他在机场被捕，警方称他正计划飞往德克萨斯州休斯顿。
警方表示，Darien 先生因涉嫌从学校盗窃 1,916 美元（1,460 美元）而接受校长 Eiswert 的调查。他们还声称他的工作表现存在挑战，他的合同很可能不会续签。
他们的理论是，通过制作深度伪造录音，他希望在校长被解雇之前抹黑校长。
调查人员表示，他们追踪到一封电子邮件，该电子邮件用于将原始视频发送到与达里恩先生连接的服务器，并声称他使用巴尔的摩县公立学校的计算机网络访问人工智能工具。他将于 2024 年 12 月接受审判。
Dariens 先生的法律代表没有回应置评请求。
巴尔的摩县学校校长 Myriam Rogers 此前曾表示，对于学校社区、校长及其家人来说，这是一个非常困难的时期。
Pikesville 高中的代表和 Eiswert 先生没有回应我的进一步评论请求。
由于该剪辑只有音频，这意味着没有视觉上的泄露，比如通常揭示人工智能操纵的机器人动作。它还提到了行话，例如年级期望，以及其他细节，例如教职员工姓名，只有与学校关系密切的人才知道。
但是，当你仔细听时，句子之间有清晰的编辑 - 而且声音虽然与校长相似，但听起来很单调。人工智能可以使用几分钟的真实录音（例如，您最喜欢的电影演员或总统候选人的演讲）来生成一个剪辑，使其听起来像是他们说了一些他们从未做过的事情。
但马龙先生告诉我，人们相信该视频真实的最大原因也许是因为它感觉真实。
它利用了他作为一名生活在巴尔的摩的黑人所遭受的种族主义经历。
当马龙先生听到校长形容黑人学生懒惰时，他立即想起了他在学校和工作中遇到的诽谤和歧视。
几个月后，派克斯维尔仍然能感受到虚假音频剪辑的影响。艾斯沃特先生已经换工作并在另一所学校工作。尽管一些社区成员告诉我，他们现在承认该视频是假的，但损害已经造成。
去年 8 月，一位名叫莎伦 (Sharon) 的女士在高中对面的一所房子里将孙子的婴儿车装进汽车时告诉我，这是一个犹太社区，说一些对社区如此煽动性的言论令人不安。
莎伦对我说话了几分钟，就好像这段视频是真实的一样。
我认为当人们这么说时，其他人也会加入进来，这让我更加害怕。
当她的丈夫在车里插嘴提醒她这段视频实际上是假的时，她承认后来确实发现它是人工智能生成的。但她说她仍然对此感到愤怒。
我发现，对于像莎伦这样相信这段视频是真实的人来说，即使是在很短的时间内，它也会一直伴随着他们——尤其是当这条信息呼应了种族主义和歧视的真实经历时。这让我想起在调查错误信息和阴谋论时一次又一次听到的一句话：好吧，即使这不是真的，但我认为他们是这么想的。
所有主要社交媒体公司均表示，他们有政策来标记、删除和限制人工智能生成的帖子的传播。但只有当可以证明剪辑是假的时，才会采取这种行动。到那时，它可能已经惠及数百万人。
阿尔菲·马龙当天早些时候表示，他与一位朋友交谈时，他仍然不知道该剪辑是人工智能生成的。
老实说，我相信这座城市的很多人并不知道事实并非如此，他说。
他表示，他对校长艾斯沃特先生因发表上述言论而受到错误指责感到遗憾。他还担心这一事件破坏了种族主义的真实体验。
他说，在再次分享这样的剪辑之前，他会三思而后行。
我被火烧过一次。我不会再碰炉子了。