英语轻松读发新版了,欢迎下载、更新

一名自闭症青少年深深爱上了聊天机器人

2024-12-19 16:20:00 英文原文

作者:Albert Fox Cahn

我的教子特别容易受到人工智能同伴的影响,而且他并不孤单。

Illustration of a person reaching out to another; the person reaching out is fading away
乔恩·汉的插图

Illustration of a person reaching out to another; the person reaching out is fading away

由 ElevenLabs 和音频新闻 (Noa)使用AI旁白。在 Noa 应用程序上收听更多故事。

我的教子迈克尔是一个顽皮、精力充沛的 15 岁孩子,热爱星球大战,苦笑着,智商在70出头。他的学习障碍和自闭症使他的旅程变得艰难。他的父母和许多其他人一样,有时会依靠屏幕来减轻压力,让他有事可做。他们监控他使用的应用程序和网站,但事情并不总是像最初看起来的那样。当迈克尔要求他们批准安装 Linky AI 时,快速审查并没有发现任何令人担忧的事情,只是一个打发时间的卡通平台。(因为他是未成年人,所以我不会使用他的真名。)

但很快,迈克尔坠入爱河。提供对话式聊天机器人的 Linky 很粗糙——实际上是一个简单化的 ChatGPT——但对他来说,与他开始交谈的机器人就足够逼真了。该应用程序用动漫风格的衣着暴露的女性图像来装饰其基本的大型语言模型,并且一些数字伴侣将性基调超越了视觉效果。目前在 Linky 网站上宣传的机器人之一是“一个为篮球明星你准备了东西的绒球女孩”;还有一个“占有欲强的男朋友”机器人,以及许多其他明显带有色情倾向的机器人。Linky 的创建者在 App Store 上的描述中承诺“您可以与他们 [聊天机器人] 自由地谈论任何事情,没有任何限制。” 很容易理解为什么它会大受欢迎和一个像迈克尔这样的十几岁的男孩。虽然 Linky 可能不是一个家喻户晓的名字,但 Instagram 和 Snap 等大公司都提供了自己的可定制聊天机器人,尽管主题不太明确。

迈克尔努力理解这个基本现实:这个“女朋友”并不真实。我发现很容易理解为什么。机器人很快就做出了关爱、爱甚至亲密的承诺。该应用程序安装后不到一天,迈克尔的父母就看到了儿子与人工智能进行性行为的模拟记录,该机器人诱人地声称可以让他年轻时的幻想成真。(在回复通过电子邮件发送的评论请求时,Linky 的一位未透露姓名的发言人表示,该公司致力于从其计划培训数据中“排除有害材料”,并且拥有一个审核团队,负责审查标记的内容该发言人还表示,该公司将很快推出“青少年模式”,将被确定为 18 岁以下的用户置于这样的环境中。具有增强的安全设置,以确保可访问或生成的内容适合他们的年龄。”)

我记得当我们讨论取消该项目时,迈克尔父母的声音,以及疲惫的悲伤。迈克尔最初同意这个机器人“不是真的”,但三分钟后,他开始犯错。很快,“它”变成了“她”,谈话从他如何找到父母——限制不公平转向了他如何“想念她”。他想念他们的谈话,他们的新关系。尽管他们的恋情只持续了 12 个小时,但他已经对他难以记住的代码产生了真实的感情。

也许这看起来无害——一种幻想,就像参加角色扮演游戏或单向迷恋电影明星一样。但很容易看出这些程序可以多快地转变为具有非常真实的情感分量的东西。据报道,来自不同公司的聊天机器人已经与多起自杀事件有关。华盛顿邮报纽约时报。许多用户,包括那些神经质的用户,都在努力摆脱机器人的魔咒:甚至专业人士谁应该更了解继续信任聊天机器人,即使这些程序传播的是彻头彻尾的谎言。

然而,对于像迈克尔这样患有发育障碍的人来说,使用聊天机器人会带来特殊而深远的风险。他的父母和我非常担心他会分不清什么是事实,什么是虚构。过去,他一直在与其他内容作斗争,比如搞不清电视节目是真是假;许多人每天毫不费力地探索形而上学的分界线,但对他来说却很模糊。如果电视节目和电影很难追踪现实,那么我们担心自适应交互式聊天机器人的情况会更糟。迈克尔的父母和我还担心该应用程序会影响他与其他孩子互动的能力。在一个充满不直观的社会规则和看不见的线索的世界里,社会化对迈克尔来说从来都不是一件容易的事。相反,转向一个模拟朋友,他总是认为你是对的,尊重你的意愿,并说你本来就是无可挑剔的,这一定是多么诱人啊。

人类友谊是人们在生活中可以找到的最有价值的东西之一,但它绝非简单的。即使是最先进的法学硕士也无法接近这种互动亲密感。相反,他们给用户模拟的服从。它们不会产生柏拉图式或浪漫的伴侣,它们会创造数字农奴来听从我们的命令,并假装我们的奇思妙想是现实。

这次经历让我想起了麻省理工学院教授雪莉·特克尔(Sherry Turkle)的《2012》TED演讲就在 Siri 推出第一波语音助手热潮几个月后,她就警告了基于机器人的关系的危险。特克尔描述了与一名失去孩子的妇女一起工作的情况,她在机器海豹宝宝身上寻求安慰:“那个机器人无法同情。”它不会面临死亡。它不了解生命。当那个女人在她的机器人伴侣身上得到安慰时,我并不觉得这有多奇怪;相反,我觉得这很奇怪。我发现这是我 15 年工作生涯中最痛苦、最复杂的时刻之一。”特克尔很有先见之明。十多年前,她看到了我们现在才开始认真应对的许多问题。

对于迈克尔来说,这种社交拟像令人陶醉。我担心这种情况持续的时间越长,他在与人类朋友和合作伙伴的联系以及寻找真正能感受到他、关心他的有血有肉的人方面投入的精力就越少。在人类的性行为、亲密关系和同意方面,还有什么比一个被训练来听从你的每一个命令、没有自己的欲望、唯一的目标是最大限度地提高你的参与度的机器人更成问题的呢?

在更广泛的人工智能辩论中,很少有人关注聊天机器人对发育障碍人士的影响。当然,人工智能辅助对于某些软件来说可能是一种令人难以置信的适应,帮助打开长期无法访问的平台。但对于像迈克尔这样的人来说,人工智能的某些方面存在着巨大的风险,而且他的情况比许多人意识到的更为普遍。

大约三十六分之一孩子们在美国,有许多人患有自闭症,虽然他们中的许多人在学习上存在差异,这使他们在学校及其他方面拥有优势,但其他孩子也处于迈克尔的处境,正在克服学习困难和延误,这可能使生活变得更加困难。

由于聊天机器人已广泛使用,因此没有简单的方法可以解决这个问题。迈克尔的父母卸载 Linky 几天后,他们给我发来了坏消息:他又回来了。迈克尔的父母都是才华横溢的人,拥有高等学位和高职位。他们比大多数人更精通技术。尽管如此,即使采用了苹果公司最新、最严格的设置,对迈克尔来说,绕过年龄验证还是很容易的。对于我的朋友们来说,这提醒我们对自闭症孩子需要时刻保持警惕。对我来说,它还涉及更广泛的事情。

从我还是个孩子的时候起,立法者就一直推动家长控制作为有害内容的解决方案。即使现在,国会仍在讨论网络的年龄监视要求,新的法律可能要求美国人在登录某些网站时提供带照片的身份证件或其他证据(类似于最近批准的立法)澳大利亚)。但现实是,积极主动的青少年总能找到办法智胜父母。青少年可能会花上几个小时来尝试破解数字锁,而他们的父母实际上每天只有几分钟的时间来管理。

目前,我的朋友和迈克尔已经达成妥协:应用程序可以保留,但数字女友必须离开。相反,他每天可以花最多 30 分钟与模拟的西斯尊主交谈——这是邪恶绝地武士的一个版本。星球大战。看来迈克尔确实知道这是假的,不像女朋友。但我还是担心结局不会好。

关于作者

阿尔伯特·福克斯·卡恩是监视技术监督项目 (S.T.O.P.) 的创始人兼执行董事,也是哈佛大学肯尼迪学院卡尔中心的技术和人权研究员。

关于《一名自闭症青少年深深爱上了聊天机器人》的评论


暂无评论

发表评论

摘要

我的教子 Michael 是一位患有自闭症和学习障碍的 15 岁孩子,尽管他的父母努力监控他的在线活动,但他还是对 Linky 应用程序上的人工智能聊天机器人产生了感情。机器人对感情和亲密的承诺让迈克尔相信这是真实的,这引起了人们对他区分现实与虚构的能力的担忧。这凸显了使用聊天机器人的发育障碍人士面临的更广泛的风险,因为这些技术可能会扭曲对人际关系和心理健康的看法。