人工智能研究员加里·马库斯：“特朗普入主白宫后，人工智能的未来变得更加黑暗”

54 岁的加里·马库斯最近几个月一直在社交媒体上强烈警告唐纳德·特朗普重返白宫的危险，特别是如果埃隆·马斯克在他身边的话。现在事情已经发生了，马库斯发现自己深感沮丧。他是美国人工智能 (AI) 及其风险领域的领军人物去年作证与 OpenAI（ChatGPT 背后的公司）首席执行官 Sam Altman 一起出席参议院小组委员会，讨论如何监管人工智能。在他的最新书中，驯服硅谷马库斯认为，如果不加以控制，生成式人工智能——诸如此类工具背后的技术聊天GPT而双子座——会让世界变得更糟。

马库斯是纽约大学心理学和神经科学教授，花了数十年时间研究认知心理学和人工智能的交叉点。他还创办了两家初创公司。第一个是 Geometric Intelligence，于 2016 年被 Uber 收购，成为深度学习研究实验室。第二个，强大的人工智能他与 Roomba 真空吸尘器的发明者之一共同创立了该公司，专注于为自主机器人开发开源软件。

马库斯在 X 等平台上很活跃，他在这些平台上直言不讳地批评马斯克，并每天与诸如此类的人物发生争执。严乐存现代人工智能领域的领军人物，Meta 现任人工智能负责人。Marcus 直言不讳地表达了他对 LeCun 的看法：“他是一个在智力上不诚实的自大狂，当我第一次批评大型语言模型 [LLM] 时，他竭尽全力地让我失去平台，但当 ChatGPT 使 Meta 黯然失色时，他却态度大转变”工作。 –

问题。您如何看待特朗普赢得总统选举后的未来？

回答。黑暗的。生成式人工智能伴随着许多风险，无论是短期的还是长期的，我认为在特朗普政府的领导下进行有意义的监管的前景很渺茫。欧盟有人工智能法案;美国几乎没有直接围绕人工智能来保护其公民的法律，而且我认为这种情况在未来几年内不会发生变化。

问。加州已经做出了一些监管人工智能的尝试。您认为某些州有可能通过自己的人工智能法律吗？

一个。加州确实通过了一些有关数据透明度等问题的法律，但来自硅谷的游说者帮助阻止了 SB-1047，这将使公司承担“灾难性损害”。在我看来，这是一个错误。我们仍然希望一些州能够尝试，但这将是一场艰苦的战斗，除非公民非常非常大声地要求保护。否则，在立法方面发生任何重大事件之前，可能需要发生一些巨大的混乱，比如一场由人工智能驱动的大规模网络攻击。

问。特朗普选择了 埃隆·马斯克 (Elon Musk) 领导政府效率部。你对他有什么期望？

一个。埃隆是最早警告人工智能风险的人之一，但现在他为人工智能的成功投入了大量资金，很难想象这不会影响他向特朗普的建议。我想他会尽一切努力让政府补贴人工智能的发展，包括他自己的公司，尽管他曾经警告过风险。请记住，这是签署该协议的人——人工智能暂停六个月——信他花了六个月的时间为自己的人工智能积累了一个巨大的 GPU 集群。

同样具有讽刺意味的是，马斯克的大部分钱都是从特斯拉那里获得的，因此他的权力和影响力也很大。特斯拉生产电动汽车，原则上是环保的。具有讽刺意味的是，马斯克所兴奋的人工智能形式是不太环保,消耗大量的电力和水并造成大量排放。然而，我预计特朗普政府将大力推动放松环境法规，允许更多的发电来满足人工智能的需求。

问。微软、亚马逊、谷歌和 Meta 都对使用核电站（有时是他们自己的核电站）为其数据中心供电感兴趣。其中一些公司已与拜登政府讨论过此事。您认为在特朗普领导下这个计划更可行吗？

一个。我相当有信心特朗普政府会提供支持，除非有我没有看到的角度。事实上，我认为核能很有意义，但将所有这些能量倾注到巨大的大型语言模型中可能不是该能源的最佳利用，而不是减少我们对化石燃料的依赖。

问。回到马斯克，你对政府雇用世界首富有何看法？政府成员可以拥有主要社交媒体平台吗？

一个。我不认为特朗普有“利益冲突”的概念，而且他通常无视先前的规范。我认为这对国家来说不是一个好主意，但我怀疑这会阻止特朗普继续前进。谁来阻止他？几乎可以肯定，“美国 2025”将会与前几年有很大不同。

问。你是什​​么意思？

一个。特朗普将无视以前的规范，并在某种程度上无视一般法律。他将任命一位非常同情的司法部长（在特朗普任命马特·盖茨接受采访后），而最高法院最近也极大地支持了他。扩大总统豁免权。特朗普将以此为授权，可以为所欲为，无论成文法是什么，我不认为他在这样做时会受到重大挑战。

问。那么大型科技公司呢？您认为他们在他的领导下会繁荣吗？在他的第一个任期内，特朗普认为 Facebook 和 Twitter 是自由主义倾向的公司。

一个。在 Elon 的领导下，Twitter（现在的 X）发生了巨大的变化。我认为 Meta 没有发生太大变化。我认为大型科技公司面临的最大问题是，他们在生成式人工智能上投入了大量资金，幻想它将演变成“AGI”（通用人工智能），但实际上，它还不够健全。支持人们所设想的革命的技术。如果生成式人工智能不能相对较快地盈利，泡沫就会破裂——特朗普和马斯克都无法解决这个问题。

问。社交媒体破坏了隐私并为监视资本主义。我们对人工智能有何期待？

一个。生成式人工智能将推进监视资本主义。有些人将内心深处的秘密倾注到聊天机器人中，法学硕士的创建者希望他们能够访问每个人的文件、电子邮件、日历，甚至密码。法学硕士本身，通过他们的回答方式，可以巧妙地塑造人们的信念，甚至根据伊丽莎白·洛福斯最近的一项研究，植入错误的信念。我们正在赋予法学硕士的创造者非凡的力量。与此同时，法学硕士已经被用来产生错误信息、在招聘方面做出有偏见的决定、助长网络犯罪等等。这项技术有一些优点，但尚不清楚它们是否能为人类带来净利益。相反，大部分收益将归其制造者所有，而大部分成本则由社会承担。

问。您在书中指出，科技寡头将越来越多地控制美国社会。当你写这篇文章时，你是否已经想到了特朗普的胜利？

一个。是的，我担心特朗普可能会获胜，尽管我认为无论如何我们都会面临挑战。但这本书的基本观点现在更加紧迫：我们不能相信大型科技公司能够自我监管，而美国政府对大型科技公司过于着迷，无法满足我们的需求。美国公民能够保护自己免受人工智能侵害的唯一方法就是大声疾呼——也许是通过抵制。

问。该技术寡头的成员之一将担任政府职务。

一个。正确的。我们可以预期马斯克在政策上拥有极其强烈的声音，比大多数其他亿万富翁所拥有的要强得多。尽管存在巨大的明显利益冲突，但特朗普在很大程度上将科技政策听从马斯克，这并不奇怪。我警告的世界已经到来。我们对此做什么取决于我们自己。

问。我们如何驯服硅谷？

一个。世界人民必须团结起来说：“我们不希望人工智能破坏环境、剥削艺术家、作家、诽谤人民以及支持大规模宣传，特别是当制造商不采取任何措施的时候”只有当我们更好地坚持大科技时，我们才能看到真正的进步。

注册我们的每周通讯从 EL PAÍS 美国版获得更多英语新闻报道