OpenAI 推迟 ChatGPT 的“成人模式”,以专注于更高优先级的工作
作者:Dan Milmo
推出“成人模式”ChatGPT 承认它有比在其标志性人工智能产品上引入色情内容更紧迫的优先事项。这家初创公司的首席执行官
萨姆·奥特曼去年,OpenAI 宣布在推出年龄检查时将允许成人内容。然而,该公司现在表示,该计划已被推迟,以支持更紧迫的要求,例如提高 ChatGPT 的性能。
“我们正在推出成人模式,这样我们就可以专注于目前对更多用户来说更重要的工作,包括智力增长、个性改善、个性化以及让体验更加主动,”说
开放人工智能,拥有超过 9 亿的 ChatGPT 用户。“我们仍然相信像对待成年人一样对待成年人的原则,但获得正确的体验需要更多时间。”
自从去年 10 月宣布计划放松对 ChatGPT 的限制以来,Altman 已经宣布“红色代码”在以谷歌和 Anthropic 为首的竞争对手的协同竞争中改进聊天机器人。与此同时,OpenAI 正在推出年龄预测工具,用于确定用户是否未满 18 岁。如果用户未成年,则会启动额外的安全设置,减少暴露图形暴力和性角色扮演。
在英国,如果 ChatGPT 生成的图像是根据《网络安全法》被视为色情内容,OpenAI 需要通过严格的年龄检查来保护未成年用户的内容。
另外,OpenAI 的一位最高级管理人员因该初创公司在美国的问题而辞职与五角大楼打交道。
OpenAI 机器人部门的硬件主管凯特琳·卡利诺夫斯基 (Caitlin Kalinowski) 表示,她对美国公民的大规模监视以及人工智能引导机器进行自主杀戮感到担忧。
“这不是一个容易的决定,”卡利诺夫斯基写道在 X 的帖子中。– 人工智能在国家安全中发挥着重要作用。但是,在没有司法监督的情况下对美国人进行监视,以及在没有人类授权的情况下进行致命的自治,这些都是值得比他们得到更多考虑的路线。”
卡利诺夫斯基表示,她“对萨姆和团队深表敬意”,并在另一篇文章中表示,她的问题在于交易的快速执行。
– 需要明确的是,我的问题是,该公告仓促而没有定义护栏。这首先是一个治理问题。这些对于交易或公告来说太重要了,不能仓促行事,”她写道。
OpenAI 上周表示,在奥特曼承认该交易看起来很糟糕后,它将修改与战争部的合同,明确排除其技术被用于大规模国内监控“机会主义且草率”。
在五角大楼现有的人工智能承包商 Anthropic 被解雇后,OpenAI 几乎立即达成了这笔交易。
OpenAI 发言人表示:“我们相信,我们与五角大楼达成的协议为负责任的国家安全使用人工智能创造了一条可行的道路,同时明确了我们的红线:没有国内监视,没有自主武器。”
“我们认识到人们对这些问题有强烈的看法,我们将继续与世界各地的员工、政府、民间社会和社区进行讨论。”