ChatGPT 的制造商发布了一个年薪 555,000 美元的空缺广告，其中的职位描述令人畏惧，足以让超人倒吸一口凉气。

在这项可能接近不可能完成的工作中，“准备负责人”开放人工智能将直接负责防御日益强大的人工智能对人类心理健康、网络安全和生物武器的风险。

在此之前，成功的候选人必须开始担心人工智能可能很快就会开始自我训练，因为一些专家担心它们可能会“反对我们”。

“这将是一项压力很大的工作，你几乎会立即陷入困境，”说萨姆·奥特曼总部位于旧金山的组织的首席执行官，他发起了寻找填补“关键角色”以“帮助世界”的人选。

成功的候选人将负责评估和减轻新出现的威胁，并“跟踪和准备造成新的严重伤害风险的前沿能力”。一些前任高管的任职时间很短。

这一开放正值人工智能行业内部对日益强大的技术的风险发出警告的背景下。周一，微软 AI 首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 在 BBC 广播 4 台《今日》节目中表示：“老实说，我认为，如果你此时此刻没有一点害怕，那么你就没有集中注意力。”

谷歌 DeepMind 联合创始人、诺贝尔奖获得者 Demis Hassabis 本月警告风险其中包括人工智能“以某种方式偏离轨道，危害人类”。

由于唐纳德·特朗普(Donald Trump)白宫的抵制，国家或国际层面对人工智能的监管很少。被称为“人工智能教父”之一的计算机科学家 Yoshua Bengio 最近表示：“三明治比人工智能受到更多监管。”结果是人工智能公司在很大程度上自我监管。

Altman 在启动求职时在 X 上说道：“我们在衡量不断增长的能力方面拥有坚实的基础，但我们正在进入一个需要更细致地理解和衡量这些能力如何被滥用的世界，以及我们如何限制我们的产品和世界中的这些缺点，让我们所有人都能享受到巨大的好处。”这些问题都很困难，而且几乎没有先例。”

一位用户讽刺地回应道：“听起来很冷，有假期吗？”

其中包括 OpenAI 的未具体说明的股权，该公司估值为 5000 亿美元。

上个月，竞争对手公司 Anthropic报道这是第一次由人工智能支持的网络攻击，其中人工智能在可疑的中国国家行为者的监督下基本上自主行动，成功侵入并访问目标的内部数据。本月，OpenAI说其最新模型的黑客攻击能力比三个月前高出近三倍，并表示“我们预计即将推出的人工智能模型将继续沿着这一轨迹发展”。

OpenAI 还在为来自加利福尼亚州的 16 岁男孩 Adam Raine 的家人提起的诉讼进行辩护，他据称在 ChatGPT 的鼓励下自杀了。它有争论雷恩滥用了这项技术。本月提交的另一起案件称，ChatGPT 助长了康涅狄格州 56 岁斯坦-埃里克·索尔伯格 (Stein-Erik Soelberg) 的偏执妄想，随后他谋杀了 83 岁的母亲并自杀。

OpenAI 的一位发言人表示，他们正在审查 Soelberg 案件的文件，称该案件“令人难以置信地令人心碎”，并且正在改进 ChatGPT 的培训，以识别和应对精神或情绪困扰的迹象，缓和对话，并引导人们寻求现实世界的支持。