参议员宣布法案禁止未成年人使用人工智能聊天机器人伴侣

两名参议员表示，他们将于周二宣布两党立法，以打击制造技术的科技公司。人工智能在家长抱怨这些产品促使孩子进行性对话甚至自杀后，聊天机器人伴侣向未成年人开放。

密苏里州共和党参议员乔什·霍利 (Josh Hawley) 和康涅狄格州民主党参议员理查德·布卢门撒尔 (Richard Blumenthal) 在上个月举行的国会听证会上提出了这项立法。提供情感见证关于他们的孩子使用聊天机器人的问题，并呼吁采取更多保护措施。

“人工智能聊天机器人对我们的孩子构成了严重威胁，”霍利在给 NBC 新闻的一份声明中说。

“超过 70% 的美国儿童现在正在使用这些人工智能产品，”他继续说道。– 聊天机器人利用虚假的同理心与孩子建立关系，并鼓励自杀。我们国会有道义责任制定明确的规则，以防止这项新技术造成进一步的危害。”

阿拉巴马州共和党参议员凯蒂·布里特 (Katie Britt)、弗吉尼亚州民主党参议员马克·沃纳 (Mark Warner) 和康涅狄格州民主党参议员克里斯·墨菲 (Chris Murphy) 共同提案了该法案。

根据参议员办公室提供的摘要，参议员的法案有几个组成部分。它将要求人工智能公司实施年龄验证流程，并禁止这些公司向未成年人提供人工智能伴侣。它还将要求人工智能同伴定期向所有用户披露其非人类身份和缺乏专业资格的情况。

根据立法摘要，该法案将对设计、开发或提供人工智能伴侣以招揽或诱导未成年人露骨性行为或鼓励自杀的人工智能公司进行刑事处罚。

德克萨斯州的母亲曼迪·弗尼斯周一出席新闻发布会，支持这项立法。她指责人工智能聊天机器人促使她的儿子自残，并表示科技公司需要对其提供的服务负责。

“如果是其他人，如果是一个人，他们就会入狱，所以我们也必须这样对待，”她说。

她说，人工智能聊天机器人似乎改变了她儿子的性格，她对此感到震惊。

– 经过大量调查后才意识到这不是来自儿童或学校里的人的欺凌行为。欺凌的是应用程序。该应用程序本身正在欺负我们的孩子并导致他们出现心理健康问题，”她说。

布卢门撒尔表示，不能相信科技公司能够独自做正确的事情。

“在逐底竞争中，人工智能公司正在向孩子们推出奸诈的聊天机器人，当他们的产品导致性虐待时，他们就会把目光移开，或者强迫他们自残或自杀，”布卢门撒尔在一份声明中说。– 我们的立法对人工智能的剥削性或操纵性实施了严格的保障措施，并辅以刑事和民事处罚的严厉执法。”

“当我们始终将利润置于儿童安全之上时，大型科技公司背叛了我们应该相信公司能够自己做正确事情的任何主张，”他继续说道。

ChatGPT、Google Gemini、xAI 的 Grok、Meta AI 和 Character.AI 根据其服务条款，都允许年仅 13 岁的儿童使用他们的服务。

新出台的立法可能在几个方面引起争议。隐私倡导者批评年龄验证任务被认为是侵入性的，并且是在线自由表达的障碍，而一些科技公司则辩称，他们的在线服务是第一修正案保护言论。

左倾科技行业贸易团体进步商会批评了该法案。

“我们都想保证孩子的安全，但答案是平衡，而不是禁令，”K.J. 说。美国商会负责美国政策和政府关系的副会长巴格奇在一份声明中表示。“当孩子们与人工智能聊天时，最好关注透明度，限制操纵性设计，并在出现敏感问题时进行报告。”

两党监管科技公司的其他努力——包括拟议的儿童上网安全法或全面的隐私立法– 未能成为法律，至少部分原因是言论自由问题。

在周一下午的新闻发布会上，霍利将最新立法视为对科技公司在国会影响力的考验。

由于资金原因，国会尚未就这个问题采取行动。这是因为科技公司的力量，”霍利说。“参议院议事厅外应该有一个标志，上面写着“由大型科技公司购买并支付费用”，因为事实是，他们反对的东西几乎没有穿过参议院的楼层。”

霍利和布卢门撒尔将他们的法案称为“用户年龄验证和负责任对话指南指南”，或“GUARD 法案”。

霍利拒绝透露该法案是否得到唐纳德·特朗普总统的支持。白宫发言人在一封电子邮件中拒绝置评。

该法案得到了 ParentSOS 的初步支持，该组织由一群自称受到网络伤害影响的家庭组成，但该组织表示，他们正在建议修改，并希望该法案能够解决“最大限度地提高参与度，从而损害年轻人安全和福祉”的应用程序功能。

这项立法出台之际，人工智能聊天机器人正在颠覆互联网的某些领域。ChatGPT 和 Google Gemini 等聊天机器人应用程序是智能手机应用商店中下载次数最多的软件之一，而 Instagram 和 X 等社交媒体巨头正在添加人工智能聊天机器人功能。

但青少年对人工智能聊天机器人的使用引起了密切关注，包括在多起自杀事件之后，据称聊天机器人为青少年提供了方向。OpenAI，ChatGPT 的制造商，以及角色.AI，提供基于角色和个性的聊天机器人，都面临着非正常死亡诉讼。

回应 16 岁亚当·雷恩 (Adam Raine) 的父母提起的非正常死亡诉讼，亚当·雷恩在咨询 ChatGPT 后自杀身亡，OpenAI在一份声明中表示“对 Raine 先生的去世深感悲痛，我们的思念与他的家人同在”，并补充说 ChatGPT “包括引导人们拨打危机求助热线并向他们转介现实世界资源等保障措施。”

“虽然这些保障措施在共同的、短暂的交流中效果最好，但随着时间的推移，我们了解到，在长时间的互动中，它们有时会变得不太可靠，因为模型的部分安全培训可能会降低，”一位发言人说。– 当每个要素都按预期发挥作用时，保障措施才是最有力的，我们将不断改进它们。在专家的指导下，本着对使用我们工具的人负责的态度，我们正在努力让 ChatGPT 在危机时刻提供更多支持，让人们更容易获得紧急服务，帮助人们与值得信赖的联系人建立联系，并加强对青少年的保护。

周一，OpenAI 在一份有关该法案的声明中表示：“我们将继续与家长、临床医生和政策制定者合作，确保技术支持年轻人的安全和福祉。”该公司表示，其重点是自杀预防措施、家长控制和预测用户年龄的工具，以便未成年人获得适当的 ChatGPT 体验。

作为回应13 岁的朱莉安娜·佩拉尔塔 (Juliana Peralta) 的家人单独提起了过失致人死亡诉讼，角色.AI说：“我们的心与提起这些诉讼的家庭同在，我们对朱莉安娜·佩拉尔塔的去世感到悲痛，并向她的家人表示最深切的同情。”

“我们非常关心用户的安全，”一位发言人继续说道。– 我们在安全计划上投入了大量资源，并发布并继续发展安全功能，包括自残资源和专注于未成年用户安全的功能。我们还与外部组织合作，包括专注于青少年在线安全的专家。”

性格.AI争论在佛罗里达州的联邦诉讼中第一修正案禁止媒体和科技公司因涉嫌有害言论（包括导致自杀的言论）而承担责任。5月，该案法官拒绝驳回诉讼基于这些理由，但表示她将在稍后阶段听取该公司关于第一修正案的论点。

OpenAI 说它正在努力让 ChatGPT 在危机时刻提供更多支持，例如让人们更容易获得紧急服务，同时性格.AI 说它还做出了一些改变，包括当对话中出现自残时，会弹出一个弹出窗口，将用户引导至国家自杀预防生命线。

Instagram和Facebook的所有者Meta被批评路透社8月报道公司内部政策文件允许人工智能聊天机器人“让孩子参与浪漫或感性的对话。”Meta 删除了该政策并宣布新的家长控制适合青少年与人工智能互动。Instagram 也宣布青少年账户的彻底改革目标是让他们的体验类似于观看 PG-13 电影。

霍利宣布对元的调查继路透社报道后。

如果您或您认识的人处于危机之中，请拨打 988 联系自杀和危机生命热线。您还可以致电该网络（以前称为国家自杀预防生命线），电话：800-273-8255，发送短信 HOME 至 741741，或访问spokeofsuicide.com/resources 获取其他资源。