OpenAI 声称世界人口的 10%目前每周使用 ChatGPT。在一个报告发表者周一，OpenAI 强调了它如何处理表现出精神困扰迹象的用户，该公司声称，0.07% 的每周用户表现出“与精神病或躁狂症相关的精神健康紧急情况”的迹象，0.15% 的人表示有“自残或自杀”的风险，0.15% 的人表现出“对人工智能的情感依赖”迹象。总计近三百万人。
OpenAI 不断努力表明它正在努力改善陷入困境的用户的护栏共享其与 170 名心理健康专家合作的细节，以改善 ChatGPT 对需要支持的人的响应方式。该公司声称已经将“达不到我们期望行为的响应减少了 65-80%”，现在能够更好地缓和对话，并在相关时引导人们拨打专业护理和危机热线。它还添加了更多“温和提醒”，以在长时间训练期间休息。当然，它不能让用户联系支持人员，也不会锁定访问以强制中断。
该公司还发布了人们在与 ChatGPT 交流时遇到心理健康问题的频率的数据，表面上是为了强调这些对话在总体使用中所占的比例是多么小。根据该公司的指标，“在给定的一周内，0.07% 的活跃用户和 0.01% 的消息表明可能存在与精神病或躁狂症相关的心理健康紧急情况的迹象。”假设该公司自己的用户计数是正确的，这意味着每周约有 560,000 人。该公司还声称每周向 ChatGPT 处理约 180 亿条消息，因此 0.01% 相当于 180 万条精神病或躁狂症消息。
该公司强调安全的其他主要领域之一是改善对表达自残或自杀愿望的用户的反应。根据 OpenAI 的数据，每周约有 0.15% 的用户表达“潜在自杀计划或意图的明确指标”，占消息的 0.05%。这相当于大约 120 万人和 900 万条消息。
该公司在寻求改善对心理健康问题的反应时重点关注的最后一个领域是对人工智能的情感依赖。OpenAI 估计，每周约有 0.15% 的用户和 0.03% 的消息表明对 ChatGPT 的情感依恋程度可能较高。即 120 万人和 540 万条消息。
一名 16 岁青少年去世后，OpenAI 近几个月已采取措施，试图提供更好的防护措施，以防止其聊天机器人可能引发或恶化个人的心理健康挑战。非正常死亡诉讼已故青少年的父母向 ChatGPT 询问如何在自杀前系上绞索的建议。但考虑到该公司同时宣布了新的、更多的内容，其诚意值得质疑。对未成年用户的限制性聊天，它也宣布它将允许成年人赋予 ChatGPT 更多个性，并参与诸如制作色情内容之类的事情，这些功能似乎会增加一个人对聊天机器人的情感依恋和依赖。