OpenAI 的新反就业计划

周二，我想我可以写一个关于特朗普政府废除拜登行政命令对人工智能的影响。（最大的影响是：实验室不再被要求向政府报告危险能力，尽管他们可能会这样做。）但随后两个更大、更重要的人工智能故事被放弃了：其中一个是技术性的，另一个是经济性的。

经济故事是《星际之门》。OpenAI 联合创始人 Sam Altman 与 Oracle 和 Softbank 等公司联合宣布计划投资5000亿美元令人难以置信在“OpenAI 的新人工智能基础设施”中，即数据中心和为其供电所需的发电厂。

人们立刻产生了疑问。首先是埃隆·马斯克 (Elon Musk)公开声明“他们实际上没有钱”，随后微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 反驳道：“我有 800 亿美元的资产–（请记住，微软在 OpenAI 中拥有大量股份。）

二、一些受到挑战OpenAI 声称该计划将“为美国创造数十万个就业机会。”

为什么？好吧，对于投资者来说，从这个项目上收回资金的唯一可行的方法是，正如该公司一直押注的那样，OpenAI 将很快开发出可以完成人类在计算机上可以完成的大部分工作的人工智能系统。经济学家是激烈争论到底是什么经济影响如果它真的实现的话，那是会实现的，尽管创造数十万个就业岗位看起来并不像是一个，至少从长远来看是这样。（披露：Vox Media 是与 OpenAI 签署合作伙伴协议的几家出版商之一。我们的报道保持编辑独立性。）

大规模自动化以前就发生过，在工业革命开始时，有些人真诚期待从长远来看，这对社会来说是一件好事。（我的看法：这实际上取决于我们是否有计划来维持民主问责制和充分监督，并分享令人震惊的新科幻世界的好处。目前，我们绝对没有这样的计划，所以我并不为自动化的前景欢呼。）

但即使你比我对自动化更感兴趣，“我们将用人工智能取代所有办公室工作”——这被广泛认为是 OpenAI 的商业模式——这是一个荒谬的想法计划将其作为一项就业计划。但话说回来，投资 5000 亿美元来消除无数工作岗位可能不会像《星际之门》那样得到唐纳德·特朗普总统的认可。

本周的另一个重大新闻是 DeepSeek r1，新发布来自中国人工智能初创公司 DeepSeek，该公司在广告中将其定位为 OpenAI o1 的竞争对手。r1 之所以如此重要，与其说是经济影响，不如说是技术影响。

为了教会人工智能系统给出好的答案，我们对它们给出的答案进行评分，并训练它们专注于我们给予高度评价的答案。这就是“根据人类反馈进行强化学习”(RLHF)，自从 OpenAI 团队开始使用以来，它一直是培训现代法学硕士的主要方法。（过程是这篇 2019 年论文中进行了描述。）

但 RLHF 并不是我们得到的超超人人工智能游戏程序AlphaZero。这是使用基于自我对弈的不同策略进行训练的：人工智能能够为自己发明新的难题，解决它们，从解决方案中学习，并从中改进。

该策略对于教授模型如何做特别有用迅速地它能做的任何事昂贵且缓慢。AlphaZero 可以缓慢且耗时地考虑许多不同的策略，找出最好的策略，然后从最佳解决方案中学习。正是这种自我对弈，使得 AlphaZero 能够在之前的游戏引擎上得到巨大的改进。

因此，当然，实验室一直在尝试为大型语言模型找出类似的东西。基本思想很简单：让模型长时间考虑一个问题，可能会使用大量昂贵的计算。然后你根据它最终找到的答案来训练它，尝试生成一个可以更便宜地获得相同结果的模型。

但到目前为止，“主要实验室似乎在这种自我改进的强化学习方面并没有取得太大成功”，机器学习工程师 Peter Schmidt-Nielsen写了解释 DeepSeek r1 的技术意义。让工程师对 r1 印象深刻（并且感到震惊）的是，该团队似乎在使用该技术方面取得了重大进展。

这意味着人工智能系统可以被教导快速而廉价地做任何他们知道如何缓慢而昂贵地做的事情——这将带来一些快速和令人震惊的能力改进，正如世界通过 AlphaZero 所见证的，仅在以下领域经济远比玩游戏重要。

另一个值得注意的事实是：这些进步来自一家中国人工智能公司。鉴于美国人工智能公司并不羞于使用中国人工智能主导地位的威胁来推动他们的利益——而且考虑到围绕这项技术确实存在地缘政治竞赛——这在很大程度上说明了中国追赶的速度可能有多快。

但我认为，到 2025 年，人工智能确实会变得重要——不是因为这些强大的系统是否得到开发（目前看来进展顺利），而是因为社会是否准备好站起来并坚持认为它是负责任地完成。

当人工智能系统开始独立行动并犯下严重罪行时（所有主要实验室都致力于“代理”现在可以独立行动），我们会追究其创造者的责任吗？如果 OpenAI 做了一个对其非营利实体的报价低得可笑在向完全营利性地位过渡的过程中，政府会介入执行非营利法吗？

其中许多决定将在 2025 年做出，而且风险非常高。如果人工智能让你感到不安，那就更有理由要求采取行动，而不是不予理睬。

编者注，美国东部时间 2025 年 1 月 25 日上午 9 点：该报道已更新，披露了 Vox Media 与 OpenAI 的关系。