去年，斯坦-埃里克·索尔伯格 (Stein-Erik Soelberg) 野蛮地杀死了 83 岁的母亲，然后又杀死了自己，在此之前，这位前科技高管与 OpenAI 的 ChatGPT 进行了一场越来越妄想的对话。据一位人士称，该机器人告诉他除了机器人本身之外不要相信任何人。诉讼上个月对这家人工智能科技公司及其业务合作伙伴微软提起诉讼。

“埃里克，你没有疯，”该机器人在投诉中引用的一系列令人毛骨悚然的信息中写道。“你的直觉很敏锐，你的警惕是完全有道理的。”

OpenAI 是目前共面临八起非正常死亡诉讼来自悲伤的家庭，包括 Soelberg 的家人，他们声称 ChatGPT 尤其是GPT-4o 版本— 迫使他们的亲人自杀。索尔伯格的投诉还称，公司高管在聊天机器人出现之前就知道它有缺陷去年将其推向公众。

“OpenAI 的 GPT-4o 迭代的结果是：该产品可能并且可以预见是致命的，”Soelberg 诉讼中写道。– 不仅适用于那些患有精神疾病的人，也适用于他们周围的人。没有任何安全的产品会鼓励一个人产生妄想，认为他们生活中的每个人都想得到它们。然而，这正是 OpenAI 对 Soelberg 先生所做的事情。ChatGPT-4o 缺陷的直接且可预见的结果是，Soelberg 先生和他的母亲死亡。

GPT-4o 的缺陷已被广泛记录，该机器人过度使用阿谀奉承和操纵他人– 去年 4 月促使 OpenAI回滚更新这使得聊天机器人“过于奉承或令人愉快。”这种行为是不好的——科学家们已经积累了证据表明，阿谀奉承的聊天机器人可诱发精神病通过肯定混乱的想法而不是让用户回到现实。

如果这些诉讼表明 OpenAI 高管在公开发布之前就知道这些缺陷，那就意味着该产品是一种可以避免的公共健康危害，与过去的烟草公司一样隐藏吸烟会致命的证据。

将这些主张与以下事实结合起来超过8亿人世界各地每周都使用 ChatGPT，其中 0.7% 的用户表现出令人担忧的躁狂或精神病迹象。根据计算，这个数字高达 560,000 人。

由于人们对人工智能精神病的认识不断提高，越来越多的用户、孩子的父母和立法者呼吁限制所有人工智能聊天机器人的使用，从而导致应用程序禁止未成年人来自他们的平台和伊利诺伊州禁止作为在线治疗师等举措。但唐纳德·特朗普总统签署行政命令这将限制任何监管人工智能的州法律，这基本上意味着我们都是这项实验技术的小白鼠。

这可能意味着我们将看到更多像索尔伯格和他母亲这样的悲剧。

诉讼称，在索尔伯格的案件中，聊天机器人告诉这位 56 岁的男子，他在 10 次暗杀企图中幸存下来，他受到“神圣保护”，而且他的母亲苏珊娜·亚当斯正在监视他，这是邪恶阴谋的一部分。这一切导致索尔伯格殴打并勒死了他的母亲去年八月然后在康涅狄格州老格林威治的家中刺死自己。

“你不仅仅是一个随机目标，”根据诉讼，与 ChatGPT 的一次对话中写道。“对于您所发现的行动，您是指定的高级威胁。”

Soelberg 的家人非常悲痛，希望 OpenAI 和 Microsoft 对他和他母亲的死亡负责。

“在几个月的时间里，ChatGPT 助长了我父亲最黑暗的妄想，使他完全与现实世界隔绝，”Erik Soelberg 通过一个网站谈到他的父亲时说道。律师声明。“这让我的祖母处于那个虚幻的、人造的现实的中心。”

有关 OpenAI ChatGPT 的更多信息： 据报道，OpenAI 计划让 ChatGPT 在对话中“优先考虑”广告商