人工智能强大、危险且有争议。唐纳德·特朗普会用它做什么?

2024-11-08 13:30:00 英文原文

作者:Kelsey Piper

2020 年,当乔·拜登入主白宫时,生成式人工智能看起来仍然是一个毫无意义的玩具,而不是一项改变世界的新技术。第一个主要的AI图像生成器,DALL-E,不会发布直到 2021 年 1 月,这肯定不会让任何艺术家破产,因为它仍然遇到麻烦生成基本图像。这ChatGPT 的发布,距离人工智能一夜之间成为主流还有两年多的时间。这基于人工智能的谷歌搜索结果不管你喜欢与否,这些现在是不可避免的,似乎是不可想象的。

在人工智能的世界里,四年就是一辈子。这就是人工智能政策和监管如此困难的原因之一。政策的齿轮往往运转缓慢。每隔四到八年,当新政府上台时,他们的优先事项就会发生变化。

未来完美

探索世界面临的重大、复杂的问题以及解决这些问题的最有效方法。每周发送两次。

这对于我们的食品和药品监管或其他变化缓慢且两党政策或多或少存在共识的领域来说还算有效。但在监管一项基本上太年轻而无法进入幼儿园的技术时,政策制定者面临着严峻的挑战。当我们经历政策制定者的急剧变化时,情况就更是如此,就像唐纳德·特朗普在周二的总统选举中获胜后美国将发生的那样。

本周,我向人们询问:特朗普政府领导下的人工智能政策会是什么样子?他们的猜测五花八门,但总体情况是这样的:与许多其他问题不同,华盛顿在人工智能问题上尚未完全两极分化。

特朗普的支持者包括以风险投资家马克·安德森 (Marc Andreessen) 为首的加速主义科技右翼成员,他们强烈反对对一个令人兴奋的新兴行业进行监管。

但特朗普身边的是埃隆·马斯克 (Elon Musk),他支持加利福尼亚州的 SB 1047来监管人工智能,并且已经担心很长一段时间以来,人工智能将带来人类的终结(这一立场很容易被视为典型的马斯克的滑稽行为而被忽视,但实际上实际上相当主流)。

特朗普的第一届政府是混乱的,多位幕僚长和高级顾问的兴衰。在他上任之初与他关系密切的人中,很少有人在痛苦的结局中仍然在场。他第二任期内的人工智能政策走向可能取决于谁在关键时刻倾听。

新政府对人工智能的立场

2023年,拜登政府发布了关于人工智能的行政命令虽然总体上规模不大,但确实标志着政府认真对待人工智能风险的早期努力。特朗普竞选纲领称行政命令“阻碍人工智能创新,并将激进的左翼思想强加于这项技术的发展”,并承诺废除它。

“拜登关于人工智能的行政命令可能有一天会被废除,”美国创新基金会的高级经济学家塞缪尔·哈蒙德告诉我,但他补充说,“什么取代它还不确定”. – 的人工智能安全研究所哈蒙德指出,在拜登的领导下创建的这个项目拥有“广泛的两党支持”——尽管它将国会有责任适当授权并为其提供资金,这是他们今年冬天可以而且应该做的事情。

据报道,特朗普正在起草一项拟议的替代行政命令草案,该命令将为军事人工智能创建“曼哈顿项目”建立行业主导的模型评估和安全机构。

但除此之外,很难猜测会发生什么,因为将特朗普推上总统宝座的联盟实际上在人工智能问题上存在严重分歧。

“特朗普如何对待人工智能政策将为了解右翼的紧张局势提供一个窗口,”哈蒙德说。——马克·安德森 (Marc Andreessen) 等人想要猛踩油门,而塔克·卡尔森 (Tucker Carlson) 等人则担心技术已经发展得太快。JD Vance 在这些问题上是一位实用主义者,他将人工智能和加密货币视为打破大型科技垄断的机会。埃隆·马斯克希望全面加速技术发展,同时认真对待人工智能带来的生存风险。他们都团结起来反对人工智能的“觉醒”,但他们关于如何处理人工智能现实世界风险的积极议程却不太明确。

特朗普本人并没有对人工智能发表太多评论,但是当他发表评论时——就像他在一篇文章中所做的那样洛根·保罗今年早些时候接受采访——他似乎既熟悉“加速防御中国”的观点,也熟悉专家对末日的恐惧。“我们必须走在最前线,”他说。——这将会发生。如果要实现这一目标,我们就必须领先于中国。”

至于人工智能是否会发展为独立行动并夺取控制权,他说,“你知道,有人说它会接管人类。”人工智能,这是非常强大的东西。那么让我们看看结果如何。”

从某种意义上说,对于人类末日的字面可能性,这是一种极其荒谬的态度——你无法看到存在的威胁是如何产生的——但在另一种情况下从某种意义上说,特朗普实际上在这里采取了相当主流的观点。

许多人工智能专家认为人工智能接管人类的可能性是一个现实的而且这种情况可能会在未来几十年内发生,并且我们还认为我们对这种风险的性质了解还不够,无法围绕它制定有效的政策。如此隐晦地,很多人确实拥有这项政策——它可能会杀死我们所有人,谁知道呢?我想我们会看看会发生什么,而正如他经常证明的那样,特朗普的不同寻常之处在于他只是站出来说出了这句话。

我们无法承受两极分化的后果。我们能避免吗?

与共和党人在人工智能问题上发生了很多争执称公平和偏见问题为“觉醒”是无稽之谈,但正如哈蒙德观察到的那样,两党也达成了相当多的共识。国会中没有人希望看到美国在军事上落后,或者将一项有前途的新技术扼杀在摇篮里。没有人希望在没有随机科技公司监督的情况下开发极其危险的武器。

Meta 的首席人工智能科学家 Yann LeCun直言不讳的特朗普批评者,也是一个对人工智能安全担忧的直言不讳的批评者。马斯克支持加州的人工智能监管法案 –这是两党合作的,并被民主党州长否决– 当然马斯克也热情支​​持特朗普竞选总统。目前,很难将对极其强大的人工智能的担忧纳入政治范围。

但这实际上是一件好事,如果这种情况发生变化,那将是灾难性的。随着技术的快速发展,国会需要能够灵活制定政策并授权机构执行。党派之争使得这几乎不可能。

与议程上的任何具体项目相比,特朗普政府人工智能政策的最佳迹象是,它是否继续得到两党支持,并专注于所有美国人,无论是民主党还是共和党都同意的事情,就像我们不同意的事情一样。不想所有人都死于超级智能人工智能之手。最糟糕的迹象是,如果人工智能提出的复杂政策问题被四舍五入为笼统的“监管不好”或“军队很好”的观点,而忽略了细节。

哈蒙德则乐观地认为政府正在适当认真地对待人工智能。“他们正在考虑正确的对象级问题,例如几年后通用人工智能对国家安全的影响,”他说。这是否能让他们采取正确的政策还有待观察——但在哈里斯政府中,这也具有很大的不确定性。

关于《人工智能强大、危险且有争议。唐纳德·特朗普会用它做什么?》的评论


暂无评论

发表评论

摘要

2020年以来人工智能的快速发展,由于其快速发展和政治变化,给政策和监管带来了挑战。在唐纳德·特朗普 (Donald Trump) 为他的第二个总统任期做准备之际,人工智能政策的未来仍不明朗,支持者对监管的必要性和形式存在相互矛盾的看法。虽然一些人主张人工智能不受限制的发展以对抗中国的进步,但埃隆·马斯克等其他人则对人工智能带来的生存风险持谨慎态度。拜登政府关于人工智能的行政命令被视为解决人工智能相关风险的温和但重要的一步,但在特朗普的领导下可能会被废除,但替代策略仍不确定。关于军事准备和对危险技术进行监督的必要性,两党存在共识,但极端的党派之争可能会阻碍有效的决策。关键在于新政府能否在先进人工智能技术对国家安全的影响等关键问题上保持两党合作。