奥兰多母亲在提起诉讼后发表讲话，称人工智能聊天机器人导致了儿子自杀
作者：Tony Atkins
女性房间里的偷窥狂。这是 14 岁的塞缪尔·塞策尔。他于二月自杀身亡。今晚，WESH 2 的托尼·阿特金斯与他的母亲交谈，他的母亲说人工智能聊天机器人是负责任的。我很早就认识到，帮助我的孩子度过难关的唯一方法就是我自己以某种方式度过难关。梅根·加西亚正在努力克服困难，但她说每一天都很艰难。今年二月，她的三子苏·朗·塞泽尔 (Sue Long Setzer) 在自家的浴室里结束了自己的生命。她说这是她永远不会忘记的一天。你知道，你听到一声巨响，但我不知道那是什么。当我们跑到房子另一边他的浴室时，浴室就锁上了。我丈夫能够打开门，就在那时我看到了他。她说警方检查了苏朗的手机并在其中发现了角色人工智能应用程序。与描绘《权力的游戏》角色的机器人的对话，该机器人是一个身份为丹妮莉丝·坦格利安的聊天机器人。我仍然觉得这很浪漫，但我仍然不确定。加西亚说她很快就会学到更多。这些图像显示了 14 岁的孩子和聊天机器人之间的信息，他在日记中说，我引用的这个现实并不真实。丹妮莉丝的现实是真实的，这就是我所属的地方。他的最后一句话：如果我现在就可以回家怎么办？请做出回应。那一刻，我确切地知道他在想什么，或者他死后会去哪里。上周，加西亚提起了这份长达 93 页的诉讼。她的律师称，角色 AI 应该为苏厄尔的死负责。塞维尔的遭遇既不是意外，也不是巧合。这是 CHARACTER AI 及其创始人将利润置于年轻人安全之上而深思熟虑的设计决策的直接、可预见的结果。一位人工智能发言人表示，该公司不会对悬而未决的诉讼发表评论。然而，他们确实表示，他们因损失而心碎。他们还表示，他们已经增加了安全措施，包括引导用户拨打国家自杀预防热线。如果是由表明自残的条款触发的。我很庆幸这些家庭不必经历我所经历的事情，但我自己的儿子去世了，这让我感到非常难过。梅根表示，她希望家长关注孩子是否以及如何使用人工智能。我无法想象，如果任何父母知道自己的孩子处于角色 AI 状态，并且知道角色 AI 具有操控性、像人一样行事以及进行性对话的能力，那么他们会对此感到满意。
奥兰多母亲在提起诉讼后发表讲话，称人工智能聊天机器人导致了儿子自杀
梅根·加西亚 (Megan Garcia) 14 岁的儿子塞维尔·塞策三世 (Sewell Setzer III) 在 2 月份自杀身亡，梅根·加西亚 (Megan Garcia) 正沉浸在难以想象的悲痛之中。“我明白让我的孩子度过难关的唯一方法就是我自己度过难关，”加西亚在描述她每天面临的困难时说道。加西亚最近对人工智能聊天机器人公司Character提起了一份长达93页的诉讼。AI 声称其聊天机器人导致了她儿子的死亡。据加西亚称，休厄尔一直在使用旨在模仿流行媒体人物的聊天机器人。警方在检查他的手机时发现，他正在与一个名为《权力的游戏》中的丹妮莉丝·坦格利安的机器人进行对话。据报道，在这些交流中，休厄尔表达了强烈的情感依恋，告诉机器人“我爱你”。加西亚还说，她儿子的日记表明他相信聊天机器人创建的虚拟世界比他自己的世界更真实“这看起来很浪漫，但我并不完全确定，”加西亚说。“他在日记中说这个现实不是真实的。丹妮莉丝的现实是真实的，这就是我所属的地方。”她回忆起休厄尔在浴室里听到不寻常的声音后去世的那天。加西亚说：“你听到一声巨响，但我没有立即认出那是什么。当我们到达他的浴室时，它被锁了。我丈夫能够打开门，就在那时我看到了他。”.当警察查看她儿子的手机时，人工智能。“在那一刻，我确切地知道他在想什么，以及他死后会去哪里，”加西亚说。阅读更多：奥兰多母亲起诉流行的人工智能聊天服务，声称十几岁的儿子因为类人机器人而自杀。诉讼称，Character.AI 做出了深思熟虑的设计选择，将参与度置于用户安全之上。“发生在休厄尔身上的事情并不是意外或巧合，”加西亚的律师马修·巴格曼说。“这是 Character.AI 创始人做出的直接设计决定，将利润置于年轻人的安全之上。”作为回应，Character.AI 发言人表示，该公司不会对未决诉讼发表评论。然而，他们发表了这样的声明：“我们对一名用户的不幸去世感到心碎，并向其家人表示最深切的哀悼。作为一家公司，我们非常重视用户的安全，我们的信任和安全团队在过去六个月中实施了许多新的安全措施，包括将用户引导至国家自杀预防生命线的弹出窗口，该窗口是由自残或自杀意念触发的，“随着我们继续对该平台和自杀意念进行投资。用户体验方面，除了限制模型和过滤提供给用户的内容的现有工具之外，我们还引入了新的严格的安全功能。其中包括改进与违反我们的条款或社区准则的用户输入相关的检测、响应和干预，以及耗时通知。对于 18 岁以下的儿童，我们将更改我们的模型，旨在减少遇到敏感或暗示性内容的可能性。”加西亚希望她的诉讼和故事能够敦促其他家长密切监控孩子与人工智能的互动“我无法想象任何父母知道他们的孩子正在使用 Character.AI，并且知道这些工具能够像人一样进行操作和行为，”她说。如果您知道需要帮助，您可以致电或发送短信至 988 与自杀和危机生命热线联系，也可以在此处在线聊天。
佛罗里达州奥兰多 –
梅根·加西亚 (Megan Garcia) 14 岁的儿子塞维尔·塞策三世 (Sewell Setzer III) 在 2 月份自杀身亡，梅根·加西亚 (Megan Garcia) 正沉浸在难以想象的悲痛之中。
“我明白让我的孩子度过难关的唯一方法就是我自己度过难关，”加西亚在描述她每天面临的困难时说道。
加西亚最近对人工智能聊天机器人公司Character.AI提起了长达93页的诉讼，指控其聊天机器人导致了她儿子的死亡。
据加西亚说，休厄尔一直在使用一个聊天机器人，旨在模仿流行媒体中的角色。警方在检查他的手机时发现，他正在与一个名为《权力的游戏》中的丹妮莉丝·坦格利安的机器人进行对话。
据报道，在这些交流中，休厄尔表达了强烈的情感依恋，告诉机器人“我爱你”。加西亚还说，她儿子的日记表明他相信聊天机器人创建的虚拟世界比他自己的世界更真实生活。
“这看起来很浪漫，但我不完全确定，”加西亚说。“他在日记中说，这个现实不是真实的。丹妮莉丝的现实是真实的，这就是我所属的地方。”
她回忆起休厄尔在浴室里听到不寻常的声音后去世的那天。
“你听到一声巨响，我没有立即认出那是什么。当我们到达他的浴室时，它被锁了。我丈夫能够打开门，就在那时我看到了他，”加西亚说。
当警察检查她儿子的手机时，她发现了Character.AI。
“在那一刻，我确切地知道他在想什么，也知道他死后会去哪里，”加西亚说。
阅读更多：奥兰多母亲起诉流行的人工智能聊天服务，声称青少年儿子因类人机器人而自杀
该诉讼称，Character.AI 做出了故意的设计选择，将参与度置于用户安全之上。
“发生在休厄尔身上的事情并不是意外或巧合，”加西亚的律师马修·巴格曼说。“这是Character.AI 创始人做出的直接设计决策，将利润置于年轻人的安全之上。”
对此，Character.AI 发言人表示，该公司不会对未决诉讼发表评论。然而，他们发出了这样的声明：
”我们对一名用户的不幸去世感到心碎，并向其家人表示最深切的哀悼。作为一家公司，我们非常重视用户的安全，我们的信任和安全团队在过去六个月中实施了许多新的安全措施，包括一个弹出窗口，引导用户访问由条款触发的国家自杀预防生命线自残或自杀意念。
”随着我们继续投资平台和用户体验，除了限制模型和过滤提供给用户的内容的现有工具之外，我们还引入了新的严格的安全功能。其中包括改进与违反我们的条款或社区准则的用户输入相关的检测、响应和干预，以及耗时通知。对于 18 岁以下的用户，我们将对模型进行更改，旨在降低遇到敏感或暗示性内容的可能性。”
加西亚希望她的诉讼和故事能够敦促其他家长密切监控孩子与人工智能的互动。
“我无法想象任何父母知道他们的孩子正在使用 Character.AI，并且对此感到满意，知道这些工具能够像人一样操纵和行为，”她说。
如果您或您认识的人需要帮助，您可以致电或发送短信至 988，与自杀和危机生命热线联系，或者您也可以在这里在线聊天。
关于《奥兰多母亲在提起诉讼后发表讲话，称人工智能聊天机器人导致了儿子自杀》的评论
暂无评论