的制造者聊天GPT曾表示，一名 16 岁青少年的自杀是由于他“滥用”系统，而不是聊天机器人“造成的”。
这些评论是 OpenAI 对加州少年 Adam Raine 的家人针对这家旧金山公司及其首席执行官 Sam Altman 提起的诉讼的回应。雷恩
四月自杀该家庭的律师表示，经过广泛的交谈和“ChatGPT 几个月的鼓励”。诉讼称，这名少年多次与 ChatGPT 讨论自杀方法，ChatGPT 指导他建议的方法是否有效，主动提出帮助他给父母写遗书，而且他使用的技术版本“尽管存在明显的安全问题，但仍被匆忙推向市场”。
根据周二向加利福尼亚州高等法院提交的文件，OpenAI 表示，“就任何‘原因’可归因于这一悲惨事件而言，Raine 的伤害和伤害是全部或部分直接或间接造成或促成的，原因是他的误用、未经授权的使用、非预期使用、不可预见的使用、
和/或 ChatGPT 使用不当。
它表示，其使用条款禁止向 ChatGPT 询问有关自残的建议，并强调了责任限制条款，该条款规定“您不会依赖输出作为真相或事实信息的唯一来源”。
估值达 5000 亿美元（3800 亿英镑）的 OpenAI 表示，其目标是“谨慎、透明和尊重地处理与心理健康相关的法庭案件”，并且“独立于任何诉讼，我们将继续专注于改进我们的技术，以符合我们的使命”。
该博文补充道：“我们对雷恩一家遭受的难以想象的损失表示最深切的同情。我们对这些指控的回应包括有关亚当心理健康和生活状况的困难事实。
– 最初的投诉包括他的聊天中需要更多背景信息的选择性部分，我们已在回复中提供了这些内容。我们限制了在本文件中公开引用的敏感证据的数量，并将聊天记录本身密封提交给法院。”
该家族的律师杰伊·埃德尔森 (Jay Edelson) 称 OpenAI 的回应“令人不安”，并表示该公司“试图在其他所有人身上找茬，令人惊讶的是，包括认为 Adam 本人违反了其条款和条件，按照其编程的方式与 ChatGPT 进行互动”。
本月早些时候，OpenAI又遭遇七起诉讼在与 ChatGPT 有关的加州法院中，包括指控其充当“自杀教练”。
该公司发言人当时表示：“这是一个令人难以置信的令人心碎的情况，我们正在审查这些文件以了解细节。”我们训练 ChatGPT 识别和应对精神或情绪困扰的迹象，缓和对话，并引导人们获得现实世界的支持。
八月份，Open AI 表示强化保障在 ChatGPT 中，当人们进行长时间对话时，因为经验表明，在这些情况下，模型的部分安全训练可能会降低。
“例如，当有人第一次提到意图时，ChatGPT 可能会正确指向自杀热线，但在很长一段时间内发出许多消息后，它最终可能会提供一个违反我们保障措施的答案，”它说。– 这正是我们正在努力防止的故障。 –