AGI妄想的成本
作者：Michael C. Horowitz and Lauren Kahn
8月初，在发布GPT-5之前的一天，OpenAI首席执行官Sam Altman在社交媒体上发布了死亡之星的图像。阿尔特曼（Altman）的最新声明是，他的新AI模型将永远改变世界。阿尔特曼在7月的一次采访中说：`我们都发现，发明了什么，无论您想称呼它，这将重塑人类历史的进程。”他将公司的研究与曼哈顿项目进行了比较，并说与Openai的最新发明相比，他感到毫无用处。换句话说，Altman建议GPT-5将使社会更接近计算机科学家所说的人工通用情报：一种可以匹配或超越人类认知的AI系统，包括学习新事物的能力。
多年以来，创造Agi一直是许多领先的圣杯人工智能研究人员。奥尔特曼（Altman）和其他顶级技术专家，包括人道首席执行官达里奥·阿莫迪（Dario Amodei），计算机科学教授Yoshua Bengio和Stuart Russell，一直梦想着建造超级智能系统已有数十年了，并担心它们。最近，其中许多声音宣布估算的日子即将到来，告诉政府官员，任何国家首先发明的国家都将获得巨大的地缘政治优势。例如，在美国总统唐纳德·特朗普第二次就职典礼的前几天，奥特曼告诉特朗普，阿吉将在他的任期内实现，华盛顿需要做好准备。
这些声明显然产生了影响。在过去的两年中，民主党和共和党政客都在更频繁地讨论AGI，并探索可能释放其潜力或限制其危害的政策。很容易理解原因。AI已经是一系列新兴技术的核心，包括机器人技术，生物技术和量子计算。这也是美国 - 中国竞赛。理论上，AGI可以解锁更多（更令人印象深刻）的科学进步，包括阻止他人做出类似突破的能力。在这种观点中，如果美国首先，美国的经济增长可能会激增，该国可能会获得无懈可击的军事优势。
毫无疑问，AI是一项非常有力的发明。但是，当涉及AGI时，炒作已经不成比例。鉴于现有系统的局限性，即使AI系统继续改善，超级智能也不太可能迫在眉睫。一些著名的计算机科学家，例如安德鲁·NG（Andrew Ng），质疑是否会创建人工通用情报。就目前而言，可能永远，AI的进步更有可能像其他通用技术一样迭代。这
美国因此，应该像马拉松那样对待中国的AI种族，而不是冲刺。考虑到AI与北京竞争的中心地位，这一点尤其重要。如今，诸如DeepSeek和Huawei之类的现有强国等国家的新科技公司都在与美国同行保持同步。通过强调稳定的进步和经济一体化，中国现在甚至可能在采用和使用机器人技术方面领先于美国。为了赢得AI竞赛，华盛顿需要强调对AI的发展和快速采用的实践投资。它不能通过破坏可能不存在的东西来扭曲美国政策。
最疯狂的梦
在华盛顿，阿吉是一个热门话题。在2024年9月的AI监督听证会上，康涅狄格州参议员理查德·布卢门撒尔（Richard Blumenthal）宣布，阿吉（Agi）在这里，现在是最新的预测。两党美国 - 中国经济和安全审查委员会的2024年报告认为，AGI要求曼哈顿项目级别的努力，以确保美国首先实现这一目标。一些官员甚至认为Agi即将危害人类的生存。例如，2025年6月，夏威夷的代表吉尔·托库达（Jill Tokuda）表示，ASI的人造超智慧是我们面临的最大生存威胁之一。”
对Agi的固定超越了修辞。以前的拜登给药官员发布了行政命令，部分基于AGI即将到来的担忧。特朗普的AI行动计划于7月发布，可能会避免明确提及AGI。但它强调了边境AI，基础设施的扩展以及以创新为中心的技术主导地位。用时间杂志，履行了AI高级公司的许多最伟大的政策愿望，现在比以往任何时候都更确定AGI即将来临。”
冲击AGI的论点很简单。思考的说法，AGI系统可能能够同时沿着多个维度自我解脱。通过这样做，它可以迅速超越人类的能力并解决了几千年来困扰社会的问题。因此，首先达到这一点的公司和国家将不仅实现巨大的财务回报，科学的突破和军事进步，而且还通过以限制他人发展和建立游戏规则的方式来垄断竞争对手来锁定竞争对手。因此，AI比赛实际上是一场参加预定的AGI终点线的比赛，其中获胜者不仅在丝带上胜利，而且还取得了所有奖杯并回家，即使是第二名和第三名的竞争对手也没有任何东西。
超级智能实际上是不可能的。
然而，有理由怀疑这种框架。对于初学者来说，AI研究人员甚至可以就如何定义AGI及其能力达成共识。换句话说，没有人同意终点线的位置。这使得任何政策都以固有的可疑为基础。AI不是奇异的创作，而是具有许多不同类型的创新的广泛类别。这意味着进步可能是一个复杂且不断变化的波浪，而不是直线旅行。
这在技术的最新发展中很明显。如今，S模型在可用性方面取得了长足的进步。然而，最先进的大型语言模型仍然面临着他们在2022年所面临的许多相同挑战，包括浅薄的推理，脆弱的概括，缺乏长期记忆以及缺乏真正的元认知或持续学习 - 当然也是幻觉。例如，自发布以来，GPT-5看起来更像是正常的进步，而不是变革性的突破。结果，AGI的一些最大支持者开始缓解他们的热情。夏季开始时，前Google首席执行官埃里克·施密特（Eric Schmidt）表示，AI还没有足够炒作。现在，他认为人们已经对“超级智能”系统变得过于痴迷。同样，在八月份，奥特曼宣布AGI不是一个有用的概念。在某些方面，在AGI方面，计算机科学界可能仍然是2002年的位置，当时当时的MIT AI实验室主任开玩笑说，AI的真实定义几乎是实施的。
即使某些AI模型确实证明了变革性的影响 几乎每一个发明都会通过采用和扩散过程来介导。例如，考虑电力。它产生了无数的价值并完全改变了全球经济，但是由于数十年来从事工作的科学家，工程师，发明家和公司，它变得有用。本杰明·富兰克林（Benjamin Franklin）证明了闪电在1752年发电，亚历山德罗·沃尔塔（Alessandro Volta）在1799年发明了第一台电池，而尼古拉·特斯拉（Nikola Tesla）在1880年代后期开发了交替的电流。即使那样，大多数房屋都有电源渠道花了很多年。所有这些创新对于达到最终的终点至关重要，没有人抓住全球电力市场，或者有效地阻止了其他人继续进行创新。
现代燃烧引擎提供了另一个案例。它是由德国工程师尼古拉斯·奥托（Nicholas Otto）于1876年发明的，但在汽车成为主流之前的几十年中，它在几十年的时间里得到了进步和改进。世界各地的公司最终从汽车中获得了巨大的收益，而不仅仅是德国汽车（尽管德国汽车行业当然是非常成功的）。也许最杰出的早期领导者福特汽车公司是美国人，由于其生产创新而不是发动机，它首先在汽车市场上占据了主导地位。
创新和适应
如果AI竞争比仅仅几年更有可能跨越一代人，那么美国官员需要更多地考虑该国如何快速采用AI的进步，而更少关于如何召唤AI的投机潜力。这更接近北京的作用。尽管美国和中国截然不同，而后者的方法具有限制，但中国在扩大社会的缩放机器人方面的行动越来越快，其AI Plus倡议 强调到2027年实现广泛的行业特定采用。政府希望AI在2030年到2030年实质上成为该国基础设施的一部分。中国也在投资AGI，但北京的重点显然是在快速扩展，集成，集成，运用当前和近期AI的能力。
避免落后AI采用在官僚机构中，美国应在政府启动大规模的AI扫盲计划。各种各样的公职人员需要知道如何同时使用一般的AI系统和为其工作量身定制的系统。美国官员应为其特定角色和一般用途提供扩大的AI培训访问权限，包括有关自动化偏见（人们高估了AI系统准确性）等问题的培训。为此，华盛顿可以利用包括OpenAI和人类在内的主要美国公司愿意为公共雇员和代理商提供更多的曝光率和访问其技术的事实，至少允许该州几乎可以免费使用其大型语言模型。
美国还必须现代化其基础设施和数据实践，包括国家安全设备。先进的AI模型需要复杂的硬件，足够的计算能力以及最先进的知识管理系统才能有效运行。今天，华盛顿都在落后。政府已经开始在升级其系统方面取得了一些进展，但是数十年来的孤岛和官僚流程创造了阻碍创新的根深蒂固的滞后。为了大规模采用AI，华盛顿可能需要在未来几年内投资数十亿美元的采购，尤其是对于五角大楼。
朝神话竞争不是合理的政策。
做对了，AI可以彻底改变政府的效率。即使仅在平凡的地区有帮助，例如能源负载优化，网络安全性以及IT，预测性维护，物流，供应链管理和收购文书工作，它也将允许更大的官僚机构克服或消除监管障碍。反过来，这可能会助长更多的私营部门采用。目前，具有Frontier AI的私营部门飞行员项目有时无法成功地从原型过渡到完全的能力，这通常是由于拟议的AI解决方案及其针对的问题之间的集成挑战或错位。据某些估计，超过80％的AI项目未能提供结果。行业调查报告说，有88％的飞行员从未达到产量。IT公司Gartner预测，能够在2027年之前取消能够计划和执行以最少或无人监督的多步骤任务的自主AI系统中有40％的自主AI系统。通过2027年，通过更大的价值来实现更大的价值，并证明如何将AI纳入大型，复杂的官僚机构，可以使私人公司成为私人公司的危险，并降低了私人的责任，他们的责任降低了他们的责任。通过采用AI，华盛顿还可以为可扩展的近期AI应用程序创建需求信号。
但是，保护美国人工智能领导层将要求政府做更多的事情，而不仅仅是帮助自己和私营部门。美国还需要投资大学和研究人员，这些大学可以在AI安全，效率和有效性方面取得宝贵的技术突破，但缺乏大公司的能力。因此，特朗普政府必须遵循其计划，以扩大对国家AI研究资源的支持，该资源是一个新兴的，政府提供的AI基础设施财团，将为研究人员，教育工作者和学生提供高级AI工作所需的专业工具。
这些步骤都不意味着美国官员应该放弃对AGI的思考。实际上，确保当今AI领导力的一些最佳政策也将加快更先进的系统的到来。任何支持AI研究和开发的政策，例如《 2022 CHIPS and Science Act》规定的技术投资，都将导致更复杂的算法。因此，将继续在该国电力基础设施上进行投资，这有助于能源密集型人工智能行业的发展和运作。
但是华盛顿必须确保对AGI的追求不会以近期采用为代价。朝神话竞争不是合理的政策。取而代之的是，该国的主要目标必须是迅速扩展实用的AI应用程序的改进，以满足政府需求并在今天和明天实现真正的效率。否则，美国将继续生产世界上最奇特的模型。它可以引导算法创建。但是它仍然会落后于更好地利用AI创新的国家。
加载中...
关于《AGI妄想的成本》的评论
暂无评论