2024 年 10 月 26 日是詹姆斯·卡梅隆导演的科幻经典之作 40 周年纪念日终结者——这部电影普及了社会对无法推理的机器的恐惧，正如一个角色所说的那样，这种恐惧“绝对不会停止……直到你死”。
剧情涉及一个名为“超级智能”的人工智能系统天网它通过发动核战争占领了世界。在由此造成的灾难中，人类幸存者在超凡魅力的约翰·康纳的领导下成功反击。
作为回应，天网派出一名半机械人刺客（由阿诺·施瓦辛格饰演）回到 1984 年（康纳出生之前）去杀死他未来的母亲莎拉。约翰·康纳对战争如此重要，天网指望将他从历史中抹去，以维持其存在。
如今，公众对人工智能的兴趣可以说从未如此强烈。开发人工智能的公司通常承诺他们的技术将比人类更快、更准确地执行任务。他们声称人工智能可以发现数据中不明显的模式，从而增强人类决策。人们普遍认为人工智能将改变一切战争到经济。
直接风险包括在筛选工作申请的算法中引入偏见以及生成人工智能的威胁取代人类某些类型的工作，比如软件编程。
但常常主导公众讨论的却是存在的危险——而六部《终结者》电影已经发挥了作用巨大的影响力在这些论点是如何构建的。的确，据一些人说电影对人工智能控制机器带来的威胁的描述分散了人们对这项技术所带来的实质性好处的注意力。
《终结者》并不是第一部解决人工智能潜在危险的电影。天网和天网有相似之处哈尔9000斯坦利·库布里克 1968 年的电影《2001：太空漫游》中的超级计算机。
它还取材于玛丽·雪莱 1818 年的小说，弗兰肯斯坦，以及卡雷尔·阿佩克 1921 年的戏剧，R.U.R.。这两个故事都涉及发明家失去对其创作的控制。
在发布时，它被描述为纽约时报的评论作为一部“有才华的 B 级电影”。在随后的几年里，它被公认为有史以来最伟大的科幻电影之一。票房收入是原片的12倍多640 万美元的适度预算（按今天的汇率计算为 490 万英镑）。
《终结者》最新颖的地方可以说是它如何重新想象了人们长期以来对人类的恐惧。机器起义透过 20 世纪 80 年代美国的文化棱镜。很像1983年的电影战争游戏一名青少年入侵军用超级计算机差点引发第三次世界大战，天网凸显了冷战时期对核毁灭的恐惧带着焦虑关于快速的技术变革。
阅读更多：科幻小说帮助我们面对科学事实：终结者杀手机器人的教训
四十年过去了，埃隆·马斯克 (Elon Musk) 是帮助人们继续关注所谓的技术领导者之一。存在风险人工智能对人类的影响。X（以前的 Twitter）的所有者有反复 引用的 终结者系列同时对超级人工智能的假设发展表示担忧。
但这种比较常常会激怒该技术的拥护者。正如英国前技术部长保罗·斯卡利 (Paul Scully)在伦敦会议上说2023 年：“如果你只是因为一些流氓、终结者式的场景而谈论人类的终结，那么你将错过人工智能[可以做]的所有好处。”¤
这并不是说人们对人工智能的军事用途没有真正的担忧——甚至可能与电影系列相似。
人工智能控制的武器系统
让许多人松了一口气的是，美国官员表示人工智能将从不做出决定关于部署核武器。但将人工智能与自主武器系统相结合是一种可能性。
这些武器已经存在了几十年，并不一定需要人工智能。一旦激活，他们就可以选择并攻击目标无需人工直接操作。2016年，美国空军上将保罗·塞尔瓦创造了这个词——终结者难题——描述这些武器带来的道德和法律挑战。
斯图尔特·拉塞尔（Stuart Russell）是英国著名计算机科学家主张禁止所有致命的、完全自主的武器，包括带有人工智能的武器。他认为，主要的风险不是来自有感知的天网式系统的失控，而是自主武器的性能如何可能会遵循我们的指示，以超人的精确度杀人。
拉塞尔设想了一种场景，即可以批量生产配备人工智能和炸药的微型四轴飞行器。这些– 屠宰机器人 –然后可以作为“廉价的、选择性的大规模杀伤性武器”成群部署。
包括美国在内的国家指定需要让人类操作员在操作自主武器系统时“对武力的使用进行适当水平的人类判断”。在某些情况下，操作员可以在授权攻击之前直观地验证目标，并且可以在情况发生变化时“挥手停止”攻击。
AI已经被用来支持军事目标。一些人认为，这甚至是负责任的使用该技术，因为它可以减少附带损害。这个想法让人想起施瓦辛格作为仁慈者的角色转变——机器守护者——在原版电影的续集《终结者 2：审判日》中。
然而，人工智能也可能削弱人类无人机操作员在挑战机器建议方面所发挥的作用。一些研究人员认为人类有一种倾向相信计算机所说的一切。
“徘徊弹药”
参与冲突的军队越来越多地使用小型、廉价的无人机，这些无人机可以探测并撞击目标。这些“徘徊弹药”（之所以如此命名是因为它们被设计为悬停在战场上）具有不同程度的自主性。
正如我在研究在与安全研究员英格维尔德·博德 (Ingvild Bode) 共同撰写的文章中，乌克兰战争和最近其他冲突中广泛使用这些弹药的动态引发了人们对人类操作员控制质量的担忧。
地面军事机器人配备武器并设计用于在战场上使用可能会让人想起无情的终结者，而武器化的空中无人机最终可能会变得类似于该系列的空中“猎杀者”。但这些技术并不像天网那样讨厌我们，它们也不是——超级聪明——。
然而，至关重要的是，人类操作员继续对机器系统进行代理和有意义的控制。
可以说，《终结者》最伟大的遗产就是扭曲了我们对人工智能的集体思考和谈论方式。这一点现在比以往任何时候都更加重要，因为这些技术已经成为了企业的核心。战略竞争美国、中国和俄罗斯之间的全球实力和影响力。
整个国际社会，从中国和美国等超级大国到小国，都需要找到合作的政治意愿，并应对在地缘政治动荡时期人工智能军事应用带来的道德和法律挑战。各国如何应对这些挑战将决定我们能否避免《终结者》中生动想象的反乌托邦未来——即使我们短期内看不到时间旅行的机器人。