Openai，Altman起诉Chatgpt在加利福尼亚青少年自杀中的作用
作者：Jody Godoy
Openai首席执行官Sam Altman参加了一项活动，向日本东京的企业推销AI，2025年2月3日。路透社/Kim Kyung-Hoon/档案照片购买许可权利，打开新标签
- 父母说
- 诉讼寻求需要年龄验证，父母控制
- Openai表示，它希望提高帮助用户的能力
8月26日（路透社） - 一名青少年的父母在周二曾在自杀中死于自杀事件，他在周二就自我伤害的方法和首席执行官山姆·奥特曼（Sam Altman）指导了他，他说，该公司在去年推出了GPT -4O版本的人工智能Chatbot时有意将利润置于安全状态。
根据雷恩的父母在旧金山州法院提起的诉讼，现年16岁的亚当·雷恩（Adam Raine）于4月11日与Chatgpt讨论了几个月后去世。
报名这里。
他们声称，聊天机器人验证了雷恩的自杀念头，提供了有关自我伤害方法的详细信息，并指示他如何从父母的酒柜中偷酒，并隐藏了自杀未遂的证据。父母马修（Matthew）和玛丽亚·雷恩（Maria Raine）在诉讼中说，Chatgpt甚至提出要起草自杀道。
该诉讼旨在对错误的死亡和违反产品安全法的行为承担责任，并寻求未指定的货币损失。
一位Openai发言人说，该公司对Raine的逝世感到难过，而Chatgpt的保障措施包括指示人们遇到危机求助热线。
发言人说：“尽管这些保障措施在短暂的交流中最有效，但随着时间的流逝，我们有时会在长期的互动中变得越来越可靠，在这种情况下，在模型安全培训的某些部分可能会降低。”
Openai并未专门解决诉讼的指控。
随着AI聊天机器人越来越栩栩如生，公司吹捧他们作为知己的能力，用户开始依靠它们来获得情感支持。但专家警告依靠自动化的心理健康建议带来危险，而亲人的家庭聊天机器人互动后死亡批评一个缺乏保障措施。
Openai在博客文章中说，它计划添加父母的控制和探索方式，以将危机中的用户与现实世界中的资源联系起来，包括可能通过建立一个可以通过Chatgpt本身做出响应的有执照专业人士网络。
Openai于2024年5月在A中推出了GPT-4O出价保持领先在AI比赛中。Openai知道，记得过去互动，模仿人类同理心的特征并显示了粘噬细胞的验证水平，这将危害弱势用户而没有保障，但无论如何都会启动。
他们说：“这一决定有两个结果：OpenAI的估值从860亿美元跃升至3000亿美元，而亚当·雷恩（Adam Raine）因自杀而死。”
Raines的诉讼还寻求一项要求OpenAI验证Chatgpt用户年龄的命令，拒绝查询自我伤害方法，并警告用户有关心理依赖的风险。
乔迪·戈伊（Jody Godoy）在纽约的报道；莱斯利·阿德勒（Leslie Adler）编辑
我们的标准：汤森路透信托原则。，打开新标签
乔迪·戈伊（Jody Godoy）报告了技术政策和反托拉斯执法，包括监管机构如何应对AI的崛起。通过jody.godoy@thomsonreuters.com与她联系
关于《Openai，Altman起诉Chatgpt在加利福尼亚青少年自杀中的作用》的评论
暂无评论