通用人工智能——能够学习并执行任何人类可以完成的认知任务的机器——长期以来一直被归类为科幻小说的范畴。但近期发展展示出AGI不再是一种遥远的猜测；它是一个即将来临的现实，要求我们立即关注。
9月17日，在参议院司法 Subcommittee期间听觉题为“AI监督：内部人士视角”的爆料者来自领先的AI公司，他们对向AGI迅速发展以及明显的监管缺失发出了警告。海伦·汤纳曾任OpenAI董事会成员、乔治城大学安全与新兴技术中心战略总监，作证了“在我看来，人工智能内部人士的观点与公众对人工智能公司的看法之间最大的分歧在于对通用人工智能这一概念的看法。”她继续说道，领先的人工智能公司如OpenAI、谷歌和Anthropic“将构建AGI视为一个完全严肃的目标。”
汤纳的同一名单证人威廉·桑德斯——OpenAI 的一位前研究员，最近辞职在对OpenAI不再抱有负责任的态度的期望之后——与Toner表达了类似的观点，作证“像OpenAI这样的公司正在致力于构建通用人工智能”，并且“他们为此目标筹集了数十亿美元。”
阅读更多：当人工智能何时会超越我们？这取决于你问谁
三家领先的人工智能实验室——OpenAI、Anthropic和谷歌深度思维（Google DeepMind）——或多或少明确表示了它们的通用人工智能（AGI）目标。OpenAI 的使命陈述为：“确保人工通用智能——即在大多数经济上有价值的工作中超越人类的高度自主系统——造福全人类。”Anthropic专注于“构建可靠、可解释且可控的人工智能系统”，旨在实现“安全的AGI”。谷歌深度思维渴望“解决智能问题”，然后使用由此产生的AI系统“解决一切其他问题”，联合创始人Shane Legg明确表示，他预计“人类水平的人工智能将在2020年代中期被超越。”新的进入者加入了人工智能竞赛，如埃隆·马斯克的xAI和伊利亚·苏茨凯弗的安全超级智能公司.inc，也专注于AGI。
华盛顿的政策制定者们大多将通用人工智能（AGI）要么视为市场营销噱头，要么视为一个模糊的比喻性工具，并不打算字面理解。但上个月的听证会可能以一种之前关于AGI的讨论未曾达到的方式突破了这一点。参议员乔希·霍利（R-密苏里州），该小组委员会的高级成员评论说，这些证人“是那些在[人工智能]公司内部工作过的人，他们曾亲自参与这些技术的研发，并且我或许可以观察到，他们并不像[人工智能公司]高管那样有那么强的利益关系去描绘一个过于乐观的画面或吹捧。”
康涅狄格州民主党参议员理查德·布鲁门塔（Richard Blumenthal），作为小组委员会主席，更加直接地表示：“AGI在未来10年或20年内可能会比人类更聪明或者至少与人类一样聪明，这一想法已经不再那么遥不可及。这不再是科幻小说中的情节。它就在眼前——最新的预测是在一到三年内就会实现。”他毫不避讳地说出了责任所在：“我们应该从社交媒体的经验中学到的是，不要信任大型科技公司。”
华盛顿表面的变化反映了公众舆论更加愿意考虑通用人工智能即将出现的可能性。在2023年7月调查由AI政策研究所进行的一项调查显示，大多数美国人认为AGI将在“未来五年内”被开发出来。大约有82%的受访者表示我们应该在AI的发展上“谨慎行事”。
那是因为利害关系是极其巨大的。桑德斯详细说明了AGI可能导致网络攻击或“新型生物武器”的创造，而托纳警告说，许多领先的AI专家认为，在最坏的情况下，AGI“可能导致人类实际灭绝。”
尽管有这些利害关系，美国几乎未对竞相开发通用人工智能的公司实施任何监管监督。那么这把我们置于何种境地？
首先，华盛顿需要开始认真对待AGI。潜在的风险太大，不容忽视。即使在最好的情况下，AGI也可能会颠覆经济并取代大量工作。数以百万计的工作岗位，要求社会进行适应。在糟糕的情况下，AGI可能会变得无法控制.
其次，我们必须为强大的人工智能系统建立监管护栏。监管应包括政府的透明度在内的措施。最强大的AI系统目前的情况如何这些是由科技公司创建的。政府透明度将减少社会在其他任何人没有预料到的情况下被一家科技公司开发出AGI所措手不及的可能性。并且需要强制的安全措施来防止美国对手和其他不良行为者从美国公司窃取AGI系统。即使没有AGI的可能性，这些轻触式的措施也是合理的，但AGI的前景加剧了其重要性。
阅读更多：美国的AI监管应该是什么样子
在桑德斯的证词中一个特别令人担忧的部分，他说在他于OpenAI工作期间，曾有很长一段时间他或其他数百名员工能够“绕过访问控制并窃取公司的最先进人工智能系统，包括GPT-4。”这种对安全问题漠不关心的态度已经足以影响美国当前的竞争地位，但对待通向AGI的系统的这种方式完全不可接受。这些评论再次强烈提醒人们，科技公司不能被信任进行自我监管。
最后，公众参与是至关重要的。AGI不仅仅是一个技术问题；它也是一个社会问题。公众必须了解并参与到关于AGI如何影响我们所有人生活的讨论中。
没有人知道我们距离AGI（参议员布卢门撒尔所说的“六十四亿美元的问题”）还有多久，但采取行动的窗口可能正在迅速关闭。包括桑德斯在内的某些人工智能专家认为这可能会在最少三年.
忽视通用人工智能可能即将带来的挑战并不会让这些挑战消失。是时候让政策制定者开始脚踏实地了。