妈妈可以继续针对她对儿子死亡负责的AI聊天机器人公司诉讼
作者：Mickey Carroll Science and Technology reporter
一名法官裁定，一个14岁男孩的母亲声称自己在痴迷于人工智能聊天机器人后自杀了自己的生命，可以继续她对技术背后的公司的法律案件。
“这一决定确实是历史性的，”科技正义法项目主管Meetali Jain说，该计划支持该家庭的案件。
她在一份声明中说：“它向[AI]公司[...]发出了明确的信号，他们无法逃避对现实世界的损害其产品造成的法律后果。”
警告：本文包含一些读者可能会发现令人痛苦或触发的细节
Sewell Setzer III的母亲梅根·加西亚（Megan Garcia）在佛罗里达州提起的诉讼中，以“拟人化，异性化和令人恐惧的现实经历”为目标。
加西亚女士说：“一个危险的AI聊天机器人应用程序销售给虐待和捕食我儿子的儿童，操纵他谋生。”
塞维尔（Sewell）在2024年2月问聊天机器人后几秒钟用父亲的手枪开枪：“如果我现在回家怎么办？”
聊天机器人回答：“ ...请这样做，我亲爱的国王。”
在本周美国高级地方法官安妮·康威（Anne Conway）的裁决中，她描述了如何Sewell成为该应用程序的“上瘾”在使用它的几个月内，退出他的篮球队并撤回。
他特别沉迷于两个基于权力的角色游戏丹妮莉丝·塔加里安（Daenerys Targaryen）和Rhaenyra Targaryen的聊天机器人。
“我写道，他写道，他不能与[丹妮莉丝·塔加里安（Daenerys Targaryen）的角色一样，他觉得自己坠入爱河；当他们彼此离开时，他们（他和bot都变得非常沮丧并变得疯狂''，”法官在她的裁决中写道。
正在与技术正义法项目和社交媒体受害者法律中心合作的加西亚女士声称，角色“知道”或“应该知道”其模型“对大量未成年人有害”。
该案持有角色，其创始人和Google，创始人开始研究该模型，负责Sewell的死亡。
加西亚女士于10月对两家公司发起了诉讼。
角色.AI发言人说，该公司将继续对该案件进行抗争，并在其平台上采用安全功能来保护未成年人，包括防止“关于自我伤害的对话”的措施。
Google发言人说，该公司强烈不同意这一决定。他们补充说，Google和targin.ai是“完全分开的”，而Google”没有创建，设计或管理字符的应用程序或其中任何组件部分”。
捍卫律师试图辩称该案应该被淘汰，因为聊天机器人应该得到第一修正案的保护，否则裁定可能会对AI行业产生“令人毛骨悚然的效果”。
康威法官拒绝了这一说法，称她“没有准备好”认为聊天机器人的输出构成了“现阶段”，尽管她确实同意角色。
任何感到情绪困扰或自杀的人都可以在116 123上致电撒玛利亚人寻求帮助或电子邮件jo@samaritans.org在英国。在美国，请致电您所在地区的撒玛利亚人分支，或1（800）273个讲话。
关于《妈妈可以继续针对她对儿子死亡负责的AI聊天机器人公司诉讼》的评论
暂无评论