2024-09-15 07:15:45 英文原文

去年六月，我哥哥入院，开始了为期八个月的病情恶化，最终导致肝功能衰竭。他多年来一直与酒精作斗争，这是困扰他一生的焦虑的副产品。

他的衰落很难见证，特别是因为我和我的家人一开始并不理解他的预后有多么可怕。随着受损的肝脏逐渐停止处理毒素，液体开始在他的腹部和腿部积聚。他的皮肤和眼睛都变黄了。毒素充满了他的大脑，导致脑病和精神错乱。我哥哥自言自语，不断地思考各种焦虑的想法，从童年的欺凌到最近的工作关系。

今年一月的最后一天，我弟弟再次入院并接受生命支持。他靠机器、管道和计算机维持生命。由于康复无望，家人和床边的医护人员做出了痛苦的决定，让他脱离生命维持系统。不久之后他就去世了。得知哥哥去世的消息后，我订了一张从西雅图的家飞往新罕布什尔州的机票，那里是我长大的地方，也是我父母和兄弟家人仍然居住的地方。

飞越下面冰冻的土地，我努力应对我和家人现在面临的现实：失去另一个兄弟姐妹和孩子。

广告

二十年前，我的另一个兄弟因未被发现的先天性心脏缺陷而去世。他当时 18 岁，我 11 岁。当他在大学赛艇训练中因心脏骤停而倒下时，我们已经无能为力了。他在我大哥刚刚去世的同一家医院被宣布死亡。我的父母失去了一个孩子，而我失去了一个兄弟姐妹，这是不可想象的。失去两个感觉是不可能的。

我在新罕布什尔州的第一个早晨，我和我的父母和我兄弟的遗孀一起来到殡仪馆。我们决定如何处理他的遗体。我们选择了他要放入的瓮。我们讨论了撰写和发布讣告的事宜。后来，在我父母家吃早餐时，我兄弟的遗孀接到了她姐姐的电话。她在谷歌上搜索了我哥哥的名字，令她惊讶的是，互联网上已经有他的讣告。

广告

于是我拿出手机搜索他的名字。谷歌返回了我兄弟的一长串讣告，但其中充满了不准确的地方。很明显，这些讣告是由生成式人工智能代表发布这些讣告的骗子撰写的。它们是我兄弟生活的编造回忆，披着华丽的散文。

大多数都是良性的，但全部都是假的。有人声称我的兄弟曾经担任皮革工人和水彩画家。在现实生活中，我哥哥是一名高中美术老师。标题包括艺术家之旅、水彩画活力和经历的全球损失。

一些讣告宣布了一些不存在的安排，这些安排是为了纪念他的遗产：为了纪念他并庆祝他对周围人的影响，安排了纪念碑、艺术展览和致敬。

一份讣告刚刚重复了我祖母十多年前的讣告。

这些讣告与标题诱饵广告配对。头条新闻包括令人惊讶的迹象表明寄生虫生活在你的体内，梅拉尼娅终于承认巴伦患有什么疾病，以及糖尿病不是由甜食引起的！遇见真正的敌人。

另一个网站用有关计算机病毒的垃圾邮件弹出窗口攻击我，并要求我允许在桌面上显示网站通知。该网站还包含名为《欲望女神》和《战利品英雄》的成人浏览器游戏的粗俗广告。

我联系了这些网站，要求撤下讣告，但只得到了沉默。

发表这些讣告的人和撰写这些讣告的人工智能并不认识我的兄弟。讣告和随附的广告对我兄弟的死进行了嘲笑。他们给一个已经处于哀悼之中的家庭带来了悲伤。感觉就像我哥哥的生活变成了一幅漫画：人工想象的虚构。

广告

这些讣告背后的动机很明确。当有人去世时，朋友和家人会上网寻找死者。这会增加网站流量，并可能增加广告收入。每天都有人死亡，诈骗者很容易监控在线死亡通知、社交媒体帖子和其他公共记录。讣告是新内容永无休止的来源。在我们的案例中，我们怀疑诈骗者瞄准了我兄弟，因为他的一名家人在他去世的第二天在 Facebook 上宣布了他的死亡消息。美国有线电视新闻网 (CNN) 的一篇文章援引人工智能专家、威斯康星州康考迪亚大学计算机科学教授罗伯特·瓦尔 (Robert Wahl) 的话说，讣告的制作成本低廉，收入足以让一些海外诈骗者维持生计。

诈骗者的目标不仅仅是死者及其亲人。人工智能生成的假裸体揭示了人工智能如何协助坏人剥削人类的极端情况。诈骗者可以使用人工智能冒充亲人并索要金钱和个人信息。即使死了，我的兄弟也无法逃脱人工智能辅助的垃圾邮件。

2003 年，当我的第一个兄弟去世时，互联网还相对原始。直到今天，我仍然在谷歌上搜索他的名字，寻找他曾经生活过的数字证据。2017 年，当 AOL 关闭其即时通讯平台时，我为失去与兄弟的所有聊天记录而哀悼。但我对他的数字足迹的真实性充满信心。我知道我父母写的讣告现在仍然可以在网上找到。我知道有关他去世的文章是由爱他的人认真撰写的。

广告

科技公司正在采取一些措施打击诈骗。今年，谷歌改变了其搜索算法，取消了看似人工智能生成的骗局列表的优先级。Google 产品管理总监 Elizabeth Tucker 宣布，这些变化使垃圾内容和非原创内容减少了 45%。但我怀疑仅仅改变算法是否能够克服骗子手中人工智能的恶意力量。

有关我兄弟的人工智能讣告证明了内容欺诈和错误信息的暗流正在加速发展。人工智能很容易利用人们的肖像和故事来获利。

我们都容易以越来越意想不到的方式受到数字剥削。我兄弟的死亡教会了我这一点。更糟糕的是，从互联网上删除任何内容几乎是不可能的。

我们为我兄弟发布了自己的讣告。它记录了他的生活，并为他的为人服务。我们把它印在报纸上，并与假讣告一起上传到互联网上。当然，聚合网站未经我们同意就重新发布了真实的讣告。

现在，在他去世七个月后，我再次发现自己要去互联网寻找我失去的兄弟 20 年后留下的痕迹。阅读人们对我们写的讣告的评论是有帮助的。一位在大学期间认识我哥哥的评论者记得，他是一个生活激烈、支持他所爱的人的人。他们写道： 当时，我们都在努力寻找自己在世界上以及与他人的位置。当我在社交媒体上关注他时，我非常感激他在生活中找到了这两点。我唯一的遗憾是我没有亲自联系。

广告

无论好坏，互联网都是我们存在的档案，每个人都应该对他们所爱的人的记忆给予有尊严和尊重的对待，而不是为了死后的便士而被利用。

Erik Frid 是西雅图的一位作家兼软件产品经理。