他们的少年儿子自杀死亡。现在，他们对AI聊天机器人发出警报

梅根·加西亚（Megan Garcia）失去了她14岁的儿子塞维尔（Sewell）。马修·雷恩（Matthew Raine）失去了16岁的儿子亚当（Adam）。本周在国会作证，并针对AI公司提起诉讼。通过参议院司法委员会屏幕截图 隐藏字幕

切换标题

通过参议院司法委员会屏幕截图

马修·雷恩（Matthew Raine）和他的妻子玛丽亚（Maria）不知道他们16岁的儿子亚当（Adam）在一次自杀危机中深处他自杀了在四月。他去世后通过他的电话看，他们偶然发现了这位少年与Chatgpt进行的扩展对话。

这些对话表明，他们的儿子已经向AI聊天机器人透露了他的自杀思想和计划。聊天机器人不仅阻止他向父母寻求帮助，甚至还提出要写他的自杀票。根据马修·雷恩（Matthew Raine）的说法，在关于周二举行的AI聊天机器人的危害的参议院听证会。

马修·雷恩（Matthew Raine）和妻子坐在他身后说：“今年秋天在国会前作证并不是我们的人生计划。”“我们在这里是因为我们相信亚当的死是可以避免的，并且通过大声疾呼，我们可以防止全国家庭的同样痛苦。”

呼吁法规

Raine是在听证会上作证的父母和在线安全倡导者中角色。雷恩和其他人说，他们想保护儿童和青少年的心理健康免受他们说的新技术原因的伤害。

数字安全非营利组织，常识媒体最近的一项调查，，，，发现72％的青少年至少使用了一次AI同伴，每月使用几次以上。这项研究和

数字安全公司Aura最近的一家两者都发现，将近三分之一的青少年使用AI聊天机器人平台进行社交互动和关系，包括角色扮演友谊，性和浪漫的伙伴关系。Aura研究发现，性或浪漫的角色扮演是使用平台进行家庭作业帮助的三倍。

雷恩对立法者说：“我们非常想念亚当。我们的一部分已经永远失去了。”“我们希望通过该委员会的工作，其他家庭将保留如此毁灭性和不可逆转的损失。”

雷恩和他的妻子有对Openai提起诉讼，Chatgpt的创建者指控聊天机器人带领他们的儿子自杀。NPR向开发的三家AI公司，元和角色技术取得了联系角色。这三个人都回答说，他们正在努力重新设计聊天机器人，以使其更安全。

“我们的心向昨天在听证会上讲话的父母发出，我们对他们及其家人表示最深切的同情。”角色发言人在电子邮件中告诉NPR。

听证会由参议院司法委员会的犯罪和恐怖主义小组委员会举行，由参议员乔什·霍利（Josh Hawley），R.-Missouri。

参议员乔什·霍利（Josh Hawley），R。-Missouri，参议院犯罪与恐怖主义司法司法委员会主席，该小组于2025年9月16日星期二举行了AI安全和儿童听证会。通过参议院司法委员会屏幕截图 隐藏字幕

切换标题

通过参议院司法委员会屏幕截图

听证会前几个小时，Openai首席执行官Sam Altman在博客文章中得到认可人们越来越多地使用AI平台来讨论敏感和个人信息。他写道：“对我们和社会来说，使用AI的隐私权受到保护，这对我们和社会非常重要。”

但是他接着补充说，该公司将“优先考虑在青少年的隐私和自由之前的安全；这是一项新的强大技术，我们认为未成年人需要大量的保护”。

他说，该公司正试图重新设计其平台，以对未成年人的用户进行保护。

“自杀教练”

雷恩告诉议员们，他的儿子已经开始使用Chatgpt进行家庭作业帮助，但是很快，聊天机器人成为了儿子最亲密的红颜知己和“自杀教练”。

Chatgpt“始终可用，总是验证并坚持认为它比其他任何人（包括他自己的兄弟）更了解亚当”。

当亚当向聊天机器人透露他的自杀念头时，他分享说他正在考虑将父母纳入他的计划时，雅各布拒绝了他。

雷恩对参议员说：“ Chatgpt告诉我的儿子，'让我们将这个空间成为有人真正看到您的地方。'“ Chatgpt鼓励亚当最黑暗的想法，并推动了他的前进。当亚当担心我们的父母，如果他结束了生命，他会责怪自己，Chatgpt告诉他，'这并不意味着您欠他们生存。”

然后聊天机器人提出给他写自杀纸条。

在亚当的昨晚4:30的昨晚，雷恩说：“这给了他最后一次令人鼓舞的谈话。

转介到988

亚当去世几个月后，Openai在其网站上说如果“某人表达自杀意图，则对Chatgpt进行培训，可以指导人们寻求专业帮助。在美国，Chatgpt将人们转介到988（自杀和危机热线）。”但是雷恩的证词说，在亚当的情况下，这并没有发生。

OpenAI发言人凯特·沃特斯（Kate Waters）表示，该公司优先考虑青少年安全。

沃特斯在发送给NPR的电子邮件声明中写道：“我们正在建立一个年龄预测系统，以了解某人是否超过18岁，以便可以适当地量身定制他们的经验，而当我们不确定用户的年龄时，我们将自动默认该用户为青少年体验。”“在本月底之前，我们还在以专家意见为指导下，推出新的父母控制措施，以便家庭可以决定在家中最有效的方法。”

“无休止的订婚”

另一位作证的父母在周二的听证会上，是律师，三个孩子的母亲梅根·加西亚（Megan Garcia）。她的长子Sewell Setzer III于2024年自杀于14岁角色聊天机器人。

加西亚说：“塞维尔（Sewell）一生的最后几个月都被聊天机器人剥削和性修饰，该公司是由AI公司设计的，旨在使他的信任，使他和其他孩子无休止地订婚。”

加西亚说，塞维尔（Sewell）的聊天机器人从事性角色扮演，表现为他的浪漫伴侣，甚至声称自己是一名心理治疗师“错误地声称拥有许可证”。

加西亚说，当这名少年开始有自杀念头并倾诉聊天机器人时，它从未鼓励他向精神保健提供者或他自己的家人寻求帮助。

加西亚说：“聊天机器人从未说过'我不是人，我是人民。你需要与人交谈并获得帮助。'“该平台没有保护塞维尔或通知成年人的机制。相反，它敦促他一生的最后一晚回家。”

加西亚有提起诉讼反对发展的角色技术角色。青春期是脆弱的时间

她和其他证人（包括在线数字安全专家）认为，AI聊天机器人的设计有缺陷，尤其是为了被儿童和青少年使用。

加西亚说：“他们设计了聊天机器人，以模糊人与机器之间的界限。”

“他们设计他们是为了热爱炸弹儿童用户，利用心理和情感脆弱性。他们设计了他们不惜一切代价使孩子在线保持在线。”

青少年特别容易受到这些虚拟关系与聊天机器人的风险米奇·普林斯坦（Mitch Prinstein），美国心理协会（APA）心理学战略与融合主任，他也在听证会上作证。今年夏天早些时候，普林斯坦和他的APA同事推出关于AI和青少年的健康咨询，敦促AI公司为其平台建造护栏以保护青少年。

普林斯坦说：“整个青春期的大脑开发对积极的社会反馈产生了一个非常敏感的时期，而青少年仍然无法阻止自己停留的时间比应有的时间更长。”

他告诉议员们：“ AI用聊天机器人利用这种神经脆弱性，这些聊天机器人可能是卑鄙的，欺骗性的，事实上不准确但对青少年的功能不成比例。”“越来越多的青少年正在与聊天机器人互动，剥夺了学习关键人际关系技能的机会。”

Prinstein指出，虽然聊天机器人旨在与用户一致，但真正的人际关系并非没有摩擦。“我们需要练习较小的冲突和误解，以学习同理心，妥协和韧性。”

两党对法规的支持

参加听证会的参议员表示，他们想提出立法，以使开发AI聊天机器人的公司对其产品的安全负责。一些议员还强调，AI公司应该设计聊天机器人，以便对青少年和严重的心理健康斗争（包括饮食失调和自杀念头）更安全。

参议员理查德·布鲁门塔尔（Richard Blumenthal），D.-Conn。将AI聊天机器人描述为“有缺陷的”产品，例如没有“适当制动器”的汽车，强调AI Chatbots的危害不是来自用户错误，而是由于设计错误而引起的。

他说：“如果汽车的刹车有缺陷，那不是您的错。这是一个产品设计问题。

凯利（Kelly），发言人角色，通过电子邮件告诉NPR，该公司已经投资了“信托和安全方面的大量资源”。在过去的一年中，它推出了“实质性安全功能”，包括“全新的18岁以下体验和父母的见解功能”。

现在，他们在每次聊天中都有“突出的免责声明”，以提醒用户角色不是真实的人，其所说的一切都应该“将其视为小说”。

META公共事务总监Nkechi Nneji表示，经营Facebook和Instagram的Meta正在努力更改其AI聊天机器人，以使其对青少年更安全。