意想不到的后果：美国大选结果预示着人工智能的鲁莽发展

虽然 2024 年美国大选的重点是经济和移民等传统问题，但它对人工智能政策可能会更具变革性。在没有关于人工智能的单一辩论问题或重大竞选承诺的情况下，选民无意中将天平向加速主义者倾斜——那些主张在监管障碍最小化的情况下快速人工智能发展的人。这种加速的影响是深远的，预示着人工智能政策的新时代，优先考虑创新而不是谨慎，并标志着人工智能政策之间的争论发生决定性转变。人工智能的潜在风险和回报。

当选总统唐纳德·特朗普的亲商业立场让许多人认为他的政府将支持那些开发和营销人工智能和其他先进技术的人。他方平台关于人工智能几乎没有什么可说的。然而，它确实强调了一种旨在废除人工智能法规的政策方法，特别是针对即将卸任的政府现有行政命令中他们所说的“激进的左翼思想”。相比之下，该平台支持旨在促进言论自由和“人类繁荣”的人工智能发展，呼吁制定促进人工智能创新的政策，同时反对被视为阻碍技术进步的措施。

基于政府领导职位任命的早期迹象强调了这一方向。然而，还有一个更大的故事正在展开：激烈争论的解决方案AI 的未来。

激烈的辩论

于是乎聊天GPT2022年11月出现的时候，AI领域中那些想要加速AI发展的人和那些想要减速的人之间展开了激烈的争论。

众所周知，后者在 2023 年 3 月提议暂停人工智能最先进系统的开发六个月，并警告称一封公开信人工智能工具给社会和人类带来了深远的风险。这封信由生命未来研究所是由 OpenAI 在 ChatGPT 推出几个月后发布的 GPT-4 大语言模型 (LLM) 推动的。

这封信最初由 1000 多名技术领袖和研究人员签署，其中包括埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、2020 年总统候选人安德鲁·杨、播客莱克斯·弗里德曼以及人工智能先驱 Yoshua Bengio 和 Stuart Russell。这封信的签名人数最终增加到超过 33,000 人。总的来说，他们被称为“末日论者”，这个术语表达了他们对人工智能潜在的生存风险的担忧。

并非所有人都同意。OpenAI 首席执行官 Sam Altman 没有签字。比尔盖茨和其他许多人也没有。尽管许多人对人工智能的潜在危害表示担忧，但他们不这样做的原因各不相同。这引发了许多关于人工智能可能失控并导致灾难的讨论。对于人工智能领域的许多人来说，谈论他们的技术已成为一种时尚。厄运概率的评估，通常称为方程：p(doom)。尽管如此，人工智能开发工作并没有停止。

根据记录，2023 年 6 月我的 p(doom) 是 5%。这可能看起来很低，但它并不是零。我觉得各大人工智能实验室在发布新模型之前都真诚地努力严格测试，并为其使用提供重要的护栏。

许多关注人工智能危险的观察家将存在风险的评级高于 5%，有些人的评级要高得多。AI安全研究员Roman Yampolskiy对AI的概率进行了评级人类毁灭率超过99%。也就是说，一个学习今年早些时候，在选举之前发布的这份报告代表了 2,700 多名人工智能研究人员的观点，报告显示“对人类灭绝等极其糟糕的结果的预测中位数是 5%。”你会登机吗？如果有 5% 的可能性它会崩溃？这就是人工智能研究人员和政策制定者面临的困境。

必须走得更快

其他人则公开对人工智能的担忧不屑一顾，转而指出他们认为该技术的巨大优势。其中包括吴恩达（Andrew Ng）（谷歌大脑项目的创始人和领导者）和佩德罗·多明戈斯（Pedro Domingos）（华盛顿大学计算机科学与工程教授，《终极算法—）。相反，他们认为人工智能是解决方案的一部分。正如吴恩达所提出的，确实存在存在的危险，例如气候变化和未来的流行病，而人工智能可以成为解决和减轻这些危险的一部分。

吴恩达认为，人工智能的发展不应该停止，而应该加快。这种乌托邦式的技术观点得到了其他人的呼应，这些人统称为“有效加速主义者”或简称为“e/acc”。他们认为，技术——尤其是人工智能——不是问题，而是世界上大多数（如果不是全部）问题的解决方案。启动加速器Y组合器首席执行官 Garry Tan 以及其他著名的硅谷领导人在 X 上的用户名中包含了“e/acc”一词，以表明与愿景的一致。纽约时报记者凯文·罗斯抓住了本质这些加速主义者说他们有一种“全油门、无刹车的方法”。

子栈通讯几年前描述了有效加速主义的基本原则。以下是他们在文章末尾提供的总结，以及 OpenAI 首席执行官 Sam Altman 的评论。

人工智能加速前进

2024 年的选举结果可能被视为一个转折点，使加速主义愿景能够塑造美国未来几年的人工智能政策。例如，当选总统最近任命技术企业家和风险投资家 David Sacks 为“人工智能沙皇”。

萨克斯是人工智能监管的直言不讳的批评者和市场驱动创新的支持者，他将自己作为技术投资者的经验带到了这一角色。他是人工智能行业的领军人物之一，他关于人工智能的大部分言论都与即将上任的政党平台所表达的加速主义观点相一致。

为响应拜登政府2023年人工智能行政命令，萨克斯发推文： – 美国的政治和财政状况已无可救药地崩溃，但作为一个国家，我们拥有一项无与伦比的资产：由完全自由且不受监管的软件开发市场驱动的人工智能尖端创新。这一切刚刚结束。尽管萨克斯对人工智能政策的影响力仍有待观察，但他的任命标志着政策转向有利于行业自我监管和快速创新。

选举有后果

我怀疑大多数投票公众在投票时是否充分考虑了人工智能政策的影响。然而，以一种非常切实的方式，加速主义者因选举而获胜，这可能会让那些主张联邦政府采取更加谨慎的做法来减轻人工智能长期风险的人被边缘化。

当加速主义者规划前进的道路时，赌注再大不过了。这个时代究竟会带来无与伦比的进步，还是会带来意想不到的灾难，还有待观察。随着人工智能发展的加速，对知情公众讨论和警惕监督的需求变得越来越重要。我们如何驾驭这个时代不仅将决定技术进步，还将决定我们共同的未来。

作为对联邦层面缺乏行动的平衡，一个或多个州可能会采取各种法规，这在某种程度上已经发生在加利福尼亚州和科罗拉多州。例如，加利福尼亚州的人工智能安全法案侧重于透明度要求，而科罗拉多州则解决招聘实践中的人工智能歧视问题，为州级治理提供模型。现在，所有人的目光都集中在 Anthropic、谷歌、OpenAI 和其他人工智能模型开发商的自愿测试和自我设置的护栏上。

总而言之，加速派的胜利意味着对人工智能创新的限制更少。这种速度的提高确实可能会带来更快的创新，但也增加了出现意外后果的风险。我现在正在将我的 p(doom) 修改为 10%。你的是什么？

加里·格罗斯曼 (Gary Grossman) 是以下公司的技术实践执行副总裁爱德曼爱德曼人工智能卓越中心的全球领导者。