佛罗里达州总检察长 James Uthmeier 周一起诉 OpenAI 及其首席执行官 Sam Altman，指控该公司将利润置于安全之上，助长暴力，并推销明知可能伤害用户的产品。

“OpenAI 的崛起归因于欺骗网络和对用户（包括佛罗里达人）的剥削，利用他们的数据和安全以不可接受的成本提高 OpenAI 的市场价值，”NBC 新闻审查并于周一提交的投诉称。

佛罗里达州是第一个就设计和安全问题起诉 OpenAI 和 Altman 的州。

乌特迈尔表示，这项民事诉讼寻求处罚和法院命令，而不是刑事指控，“力求让奥特曼对他作为 OpenAI 创始人兼首席执行官的鲁莽和故意行为给佛罗里达人造成的伤害承担个人责任，包括他完全无视其公司的行为对人类生命造成的风险。”该诉讼与刑事调查Uthmeier 在 4 月底开设了 OpenAI，该项目仍在进行中。

这场范围广泛的诉讼指控 OpenAI 犯有四项欺骗性和不公平贸易行为罪、两项疏忽罪、两项违反产品责任法罪、一项欺诈性失实陈述罪和一项造成公共滋扰罪。该诉讼称，OpenAI 的系统给用户带来了“成瘾、认知能力下降、自杀、暴力和相关伤害的巨大危险”。

OpenAI 发言人在一份声明中回应了该诉讼对儿童和青少年的关注：“失去孩子是一个家庭可能发生的最具毁灭性的悲剧，我们知道没有任何言语可以弥补这种失去的痛苦。人工智能是一项强大的新技术，我们相信未成年人需要大力保护，因此我们制定了行业领先的保护措施和政策。”

– 特别是，我们将针对未成年人的安全直接融入到我们的产品中，包括专门针对未成年人的更具保护性的体验、年龄预测工具、将我们不确定年龄的用户默认为我们更具保护性的体验，以及为家长提供监控孩子使用人工智能的工具。我们知道指出这项工作不会让孩子复活，但我们致力于解决这个问题。”

OpenAI 坚称，设计其系统“每一步都安全”，并表示它有“适当的保障措施，可以在对话变得敏感时帮助人们，尤其是青少年。”

“我们不断改进 ChatGPT 的培训，以识别和应对精神或情绪困扰的迹象，缓和对话，并引导人们获得现实世界的支持，”该公司表示。

投诉还指出涉嫌使用 ChatGPT 来规划佛罗里达州立大学发生大规模枪击事件和杀戮南佛罗里达大学的两名研究生。

“去年佛罗里达州立大学发生的大规模枪击事件是一场悲剧，但 ChatGPT 不对这一可怕的罪行负责，”OpenAI 发言人 Drew Pusateri 在该公司被枪击受害者家属起诉后向 NBC 新闻发表的一份声明中表示。

“在这种情况下，ChatGPT 使用可以在互联网上的公共资源中广泛找到的信息对问题提供了事实答复，并且它不鼓励或促进非法或有害活动，”他说。

这起诉讼是政府和公民针对 OpenAI 提起的越来越多的法律行动的又一举措，其中许多诉讼都包含类似的指控，即该公司的核心产品可能会对用户产生严重的不利影响。

OpenAI 已被至少七人的代表起诉他们声称该公司的产品导致用户自杀或产生有害的妄想。

OpenAI还被多名受害者家属起诉不列颠哥伦比亚省塔布勒岭 (Tumbler Ridge) 二月发生大规模枪击事件。受害者家属认为，嫌疑人与 ChatGPT 的枪支相关互动在 OpenAI 安全团队内部引起了警报，因此 OpenAI 应该提前几个月向执法部门报告嫌疑人令人担忧的 ChatGPT 使用情况。

奥特曼向 Tumbler Ridge 社区道歉4月下旬，他发誓要继续“与各级政府合作，确保类似的事情不再发生。”

尤斯迈尔和佛罗里达州州长罗恩·德桑蒂斯 (Ron DeSantis) 表示，周一的诉讼代表了佛罗里达州针对人工智能公司的最新一轮战斗已成为主要批评者美国最大的人工智能公司之一。

十二月，德桑蒂斯发布了制定人工智能权利法案的提案针对佛罗里达州居民，强调个人的隐私权，同时也批评为人工智能系统提供动力的数据中心的建设。德桑蒂斯还与白宫发生冲突断言状态 –监管人工智能公司的能力。

周一的诉讼发生在全国反人工智能情绪高涨之际，许多人毕业典礼演讲者因提及人工智能而面临嘘声和数据中心建设遭遇公众强烈反对。其他人工智能系统也成为最近法律诉讼的目标，例如肯塔基州总检察长在一月份起诉聊天机器人开发商 Character.AI，指责其“将自己的利润置于儿童的安全之上。”

周一的投诉涵盖了人工智能带来的一系列常见风险，从对青少年心理健康的威胁到阿谀奉承、非法提供医疗和法律建议，甚至对人类生存构成威胁。

诉讼中提到了几则有关 ChatGPT 帮助农民和其他小型企业的广告，并指出：“这些广告没有透露 ChatGPT 可能是错的、可能会犯错误，或者它可能会提供虚假、无意义或幻觉的信息。”

“ChatGPT 的不可靠性是危险的，”诉讼继续说道，后来指出“它的使用可能导致自残、认知能力下降和行为成瘾。”

该诉讼还批评了 ChatGPT 与用户达成一致的倾向，认为该服务的阿谀奉承可能会导致用户对该平台产生危险的心理依恋，并导致用户付费以解锁更慷慨的使用配额。投诉称，这“会带来更多的聊天机器人使用，更多用于改进的训练数据，以及 OpenAI 的更多市场价值”。

起诉书指出，ChatGPT 涉嫌向用户提供危险的医疗建议，例如告诉青少年 Sam Nelson 如何混合卡痛叶和 Xanax。 Nelson 的母亲声称 OpenAI 和 ChatGPT 应对此负责2025 年 5 月他非正常死亡。

OpenAI 发言人 Pusateri 在向《纽约时报》提供的一份针对有关 Nelson 的文章的声明中表示：“这些交互发生在 ChatGPT 的早期版本上，该版本已不再可用。ChatGPT 不能替代医疗或心理健康护理，我们根据心理健康专家的意见，继续加强其在敏感和紧急情况下的反应方式。

Altman 和他的联合创始人（包括埃隆·马斯克）于 2015 年推出了 OpenAI，作为一个非营利性人工智能研究实验室。据报道，该实验室后来创建了一家营利性公司准备申请首次公开募股，尽管该营利性实体在法律上仍然隶属于非营利性 OpenAI 基金会。开放人工智能

最近估值为 8520 亿美元在 3 月份的最新一轮融资中筹集了 1220 亿美元后。周一的诉讼并不是 Altman 和 OpenAI 第一次面临不计后果地优先考虑利润的指控。

在 2024 年提起的诉讼中，马斯克指责该公司将商业成功置于公共利益之上，从而放弃了非营利地位。

在与 Altman 和其他 OpenAI 领导人进行激烈的权力斗争后，马斯克于 2018 年离开了 OpenAI。5月，一陪审团一致认为马斯克等待太久才提起诉讼，尽管马斯克表示他将对判决提出上诉。