硅谷对自我构建的机器人感到狂热
作者：Matteo Wong, Lila Shroff
上个月末，一大群人聚集在旧金山市中心，要求人工智能行业停止开发更强大的机器人。举着标语和横幅阅读停止人工智能竞赛和不要建造天网抗议者在城市中游行，并在 Anthropic、OpenAI 和 xAI 的办公室外发表演讲。人群要求这些公司停止创造超级智能机器的努力，特别是可以开发未来人工智能模型的人工智能模型。与会者表示，这样的技术可能会消灭所有人类的生命。
在人工智能抗议和欢乐时光中，在初创企业和大公司内部，科技界对同一件事感到疯狂：让自己变得更聪明的计算机。在过去的一年里，顶尖的人工智能公司开始大声吹嘘自己的研究自动化的内部努力。OpenAI最近发布了一个新模型它描述的作为“自我创造的工具”。在接下来的六个月内，该公司的目标是推出其所谓的“实习生级人工智能研究助理”。同时，Anthropic 表示，该公司多达 90% 的代码已经由 Claude 编写。
“我们开始看到人工智能的进步会自我反馈，”研究人工智能风险的瑞典哲学家尼克·博斯特罗姆 (Nick Bostrom) 告诉我们。在硅谷，许多内部人士认为，我们正处于一个人工智能可以迅速提高自身能力的世界的悬崖边。我们可能会等待数周，而不是在新的机器学习突破之间等待数月。想象一下人工智能的发展速度越来越快。
自我改进机器人的想法并不是什么新鲜事。当统计学家 I. J. Good 在 20 世纪 60 年代首次引入递归自我完善的概念时，他写道，能够训练自己的、甚至更有能力的继任者的机器将是社会需要创造的“最后一项发明”。但就在几年前，任何实际制作此类人工智能模型的想法都被搁置一旁。当 ChatGPT 无法可靠地进行加法和减法时，更不用说在网络上搜索了，人工智能程序很快就能进行世界一流的机器学习研究的想法似乎很可笑。尽管科技公司声称“通用人工智能”即将到来，但机器人加速甚至指导人工智能研究所需的能力似乎超过AGI 的那些。
现在，随着人工智能模型的发展编码能力显着提高，硅谷已经迷上了自我改进机器的想法。人工智能研究涉及大量繁重的工作——整理大型数据集、运行重复实验——在编码机器人的帮助下可以提高效率。Anthropic 首席执行官 Dario Amodei 表示估计的该编码工具将公司的整体工作流程加快了 15% 到 20%。
但顶级人工智能公司分享的有关他们如何以及在多大程度上实现内部研究自动化的信息充其量也是不完整的。当 Anthropic 说几乎所有代码都是 Claude 编写时，我们不知道需要多少人工监督。（一位 Anthropic 发言人拒绝了采访请求，但向我们指出了最近的一项播客该公司政策主管杰克·克拉克 (Jack Clark) 表示，他今年最重要的优先事项之一是更好地了解“我们在人工智能方面实现自动化的程度”。开发。）关于 OpenAI 即将推出的人工智能实习生的细节也很少。
一位公司发言人向我们描述了它是一个可以通过进行文献综述或解释实验结果等方式促进研究工作流程的系统。（大西洋报Google DeepMind 是人工智能如何用于自动化研究的一个具体例子：去年，该公司开发了一种名为 AlphaEvolve 的人工智能编码代理，根据该公司发布的研究，该代理能够使 Google 全球数据中心群的计算效率平均提高 0.7%，并将 Gemini 的整体训练时间缩短 1%。
当前所有这些自我改进人工智能的方法都不是递归的，而是零碎的。人工智能工具可以编写代码，找到小的优化，并且通常可以使人工智能研究过程的离散部分更快。令人印象深刻的是，机器至少能够逐步提高自己的能力，但目前人类仍然发挥着重要作用。人工智能研究有很多组成部分：整理训练数据、提出新假设、建立实验来测试它们，以及决定如何分配稀缺的计算资源。最终，人们的想法是，递归式自我改进的人工智能模型将从死记硬背的编程跨越到真正的研究“品味”，就像人工智能内部人士所说的顶级软件工程师所展示的人类创造力和判断力的结合。机器人将自己完成新实验的想法，而不是由人类提出。
许多人工智能的支持者和毁灭者都相信，我们离这个未来并不遥远。Sam Altman 表示，到 2028 年，OpenAI 计划开发出一名完全“自动化的人工智能研究人员”。到那时，“我们非常有信心我们将拥有能够做出更重大发现的系统”，该公司说在最近的一篇博客文章中。根据人工智能最新进展的速度，人工智能未来项目的研究员 Eli Lifland 预测，到 2032 年，人工智能的研发可能会完全自动化。毕竟，几年前，顶级模型只能成功地完成人类开发人员需要几秒钟才能完成的事情；而现在，人工智能的研究和开发可能会在 2032 年实现完全自动化。现在，它们可以自主完成人类需要数小时才能完成的任务。“我不认为它会放缓”，METR（一家研究人工智能编码能力的非营利组织）的研究员 Neev Parikh 告诉我们。
有很多理由怀疑人工智能研究能否在如此短的时间内实现完全自动化。编码机器人旨在执行指令，但开发人工智能研究味道可能需要某种变革性的突破。更不用说人工智能发展的各种限制——包括数据中心的资金、芯片和能源的可用性——随时可能阻碍进展。DeepMind 科学与战略计划副总裁 Pushmeet Kohli 告诉我们，目前，“实现这种自我完善循环的整体管道仍有待开发”。机器人可以优化一些东西，但它没有任何东西可以优化为了，”科利说。“这就是人类发挥作用的地方。”
最终，即使递归自我改进的最梦幻般的梦想最终只不过是一种营销策略，自动化研究的边际改进可能会进一步加快人工智能发展的步伐。“这可能会改变人工智能竞争的动态，改变人工智能地缘政治等等，”Dean Ball，特朗普前人工智能顾问，最近写道。政府和民间社会已经落后了。美国机构在很多方面仍在适应互联网——国税局仍然使用 COBOL（一种 1960 年发布的编程语言）处理纳税申报表。如果人工智能模型进展更快，包括安全和保障法规在内的公共政策就更不可能跟上。当我们谈话时，哲学家博斯特罗姆对人工智能的未来表达了某种无奈。他说，他曾经称自己是一个“烦躁的乐观主义者”，但现在他是一个“温和的宿命论者”。
奇怪的是，关于递归自我完善的任何预测都不需要是真实的才有意义。去年，一个学术团队采访了 DeepMind、OpenAI、Anthropic、Meta、加州大学伯克利分校、普林斯顿大学和斯坦福大学的 25 名顶尖研究人员。其中二十人将人工智能研究的自动化视为该行业“最严重和最紧迫”的风险之一。现在，这些戏剧性的警告正在吸引越来越多的受众。“人类实际上可能会失去对地球的控制，”参议员伯尼·桑德斯最近警告国会，听起来就像旧金山的抗议者一样。人工智能行业再次找到了一种方法来加大对其技术背后的炒作。