朱莉·卡彭特不这么认为将聊天机器人拟人化完全归咎于人类用户。长期人机交互专家和作者赤裸裸的安卓看到生成式人工智能工具，例如聊天GPT，旨在通过高度个性化的记忆和复制社交体验的互动来引发用户的这些反应。

当这些单方面的联系可能变得更加复杂，并可能造成灾难性的后果时，AI 生成的色情作品被添加为一个选项。卡彭特对 OpenAI 即将推出的允许成年人使用 ChatGPT 发送色情短信的计划感到担忧。“我支持人们探索自己的性取向，但我希望以一种对他们来说既安全又有趣的方式，”她说。“人们必须非常清楚数据具有监视性。”开放人工智能

首先暗示两年前，在一份描述其模型设计行为的官方文件中，允许成人用户使用 ChatGPT 生成色情内容。虽然该公司似乎仍在计划最终发布，但时间表是阴暗的。近几个月来，OpenAI 的外部专家咨询委员会对这一即将发布的版本的风险表示担忧，包括出现“性感自杀教练”的可能性。据报道来自华尔街日报。当《连线》杂志联系到 OpenAI 时，OpenAI 拒绝置评。

人们对机器说脏话，比如 ChatGPT，并不是什么新鲜事。“他们希望将人们无论如何都会尝试做的事情货币化，”说凯特·德夫林伦敦国王学院人工智能与社会学教授，其研究涉及数字性爱。

这里的不同之处在于 OpenAI 可能会在主流平台上拥抱色情内容。色情聊天机器人是一项创收业务，但它们常常被降级到名字不起眼的小众网站或埃隆·马斯克的 Grok（以未经同意的深度伪造图像并进入一个– MechaHitler – 模式。

当成人模式发布时，看看 ChatGPT 到底会记住用户的性倾向什么，将会很有趣。在过去的几年里，OpenAI 不断改进聊天机器人的性能记忆功能，它记录用户偏好并以个性化输出进行响应。你是素食主义者吗？当被问及餐厅建议时，ChatGPT 不会推荐牛排馆。想去远足吗？它从过去的聊天中知道您在旧金山，并会建议相当接近的路线，即使提示中未包含该位置上下文。

但是，当这种类型的数据记录和超具体的个性化满足数百万成年 ChatGPT 用户的性短信习惯时，会发生什么？与 ChatGPT 的色情互动将进一步提高用户隐私的风险。

ChatGPT 不会记住您的饮食偏好或您最喜欢什么类型的电影，而是可以记住您对毛茸茸的色情片、海滩三人行和小便游戏的幻想程度，并根据这些性细节定制每日响应。目前尚不清楚 OpenAI 计划如何处理这些成熟的对话。

在 ChatGPT 发布时选择与色情版本进行交互的用户可能会在“临时聊天”功能中找到安慰。启用后，这些对话不会显示在用户的日志历史记录中，也不会用于改进 OpenAI 的模型。

但这些聊天并不像用户感觉的那样短暂。“出于安全目的，我们仍可能保留副本最多 30 天，”写道OpenAI 网站。网站页面上还包含一个免责声明，声称“某些服务的数据保留可能会受到最近法律发展的影响。”