埃隆·马斯克对唐纳德·特朗普政府的影响可能会导致人工智能的安全标准变得更加严格。领先科学家他与世界首富密切合作,共同应对人工智能的危险。
马克斯·泰格马克表示,马斯克对加州一项失败的人工智能法案的支持,凸显了这位亿万富翁对特朗普竞选中并未突出的问题的持续关注。
然而,马斯克定期警告说,人工智能的无节制发展(广义上讲,计算机系统执行通常需要人类智能的任务)可能会给人类带来灾难性的后果。去年,他是其中之一超过30,000名签署者一封呼吁暂停强大人工智能技术工作的信。
泰格马克在里斯本网络峰会上接受《卫报》采访时表示,马斯克预计将成为在当选总统政府中具有重大影响力,可以说服特朗普引入阻止通用人工智能(AGI)发展的标准,通用人工智能是指达到或超过人类智能水平的人工智能系统。
“我确实认为,如果埃隆设法让特朗普了解人工智能问题,我们就更有可能获得某种形式的安全标准,从而阻止通用人工智能的发展,”他说。
麻省理工学院专门研究人工智能的教授泰格马克补充道:“他可能会帮助特朗普理解 AGI 竞赛是一场自杀竞赛。”
泰格马克表示,马斯克在许多科技同行的反对下支持加州的 SB 1047 法案,这对人工智能安全活动人士来说是一个积极的信号。该法案要求公司在发布大型人工智能模型之前对其进行压力测试,但遭到加州州长加文·纽瑟姆 (Gavin Newsom) 的否决,因为他表示可以推动人工智能业务脱离国家并阻碍创新。
——埃隆·马斯克出来说,我支持它,我想要监管。我确实认为他能够说服特朗普人工智能需要受到控制并非完全不可能,”泰格马克说。
马斯克是早期的支持者财务回馈呃泰格马克生命未来研究所的负责人,该研究所致力于更安全地使用尖端技术。特斯拉首席执行官兼 X s 所有者个人财富大幅膨胀自特朗普上周获胜以来。
马斯克去年推出了自己的人工智能初创公司,并表示世界需要担心“终结者的未来”以防止人工智能系统逃避人类控制的最坏情况。其他人工智能专业人士认为,关注世界末日的担忧会分散对人工智能系统短期问题的关注,例如操纵和误导性内容。
特朗普发誓要废除拜登关于人工智能安全的行政命令;共和党的选举纲领将其描述为一系列限制,“将激进的左翼思想强加于这项技术的发展”。
该命令包括要求开发高风险系统(对国家安全、经济安全或健康和安全构成威胁的人工智能模型)的公司与政府分享其安全测试结果。