阿利姆（注意：Alamy是一家提供版权图片和股票照片的公司，这个名字通常直接使用其英文名或官方提供的中文译名，此处可能没有标准的中文名称，所以给出音译）
由阿诺德·施瓦辛格主演的1984年的票房大片《终结者》已经成为超级智能机器危险性的代名词。但它“有助于同时也阻碍了”我们对人工智能的理解。
在HBO情景喜剧《硅谷》的一集中，汤姆·米德尔迪奇（饰演理查德·亨德里克斯）是一位解释他把自己的机器学习平台Pied Piper 展示给一个焦点小组时，一位参与者不可避免地将其与詹姆斯·卡梅隆1984年的电影《终结者》进行了比较。“不，不，不，”沮丧的米德尔迪奇坚持说，“我可以向你们保证这里没有类似天网的情况。不，Pied Piper绝不会变得有意识并试图统治世界。”太迟了。他已经失去了听众。
凭借其杀手机器人和叛变的人工智能系统天网，《终结者》已经成为机器智能背叛其人类创造者的幽灵的代名词。图片编辑经常用电影中T-800“猎杀”机器人的镀铬头骨来插图化关于人工智能的文章。机器人专家罗纳德·阿金曾在2013年使用该影片片段作为警示。谈话名为《如何不建造一个终结者》
阿利莫夫
但这部电影是一把双刃剑。哲学家尼克·博斯特罗姆在其2014年的著作《超级智能》中普及了“未对齐的人工智能”（与人类价值观和福祉不一致的人工智能）所带来的生存风险。承认的他提到他的妻子“因为他和机器人军队的言论而取笑我”。在《通往有意识机器的道路》一书中，人工智能研究员迈克尔·伍尔里奇用一个完整的章节来抱怨“终结者式的人工智能叙事”。
有一些更近、更可信的关于人工智能的电影，比如《机械姬》和《她》，但在谈到这项技术的危险性时，《终结者》在上映40年后依然独占鳌头。“以一种有趣的方式来说，它现在比当时更加切中要害，”卡梅隆说道。告诉了《Ringer》评论了这部电影及其1991年的续集，"因为AI现在是一个我们必须面对的真实事物，而在当时它只是一个幻想。"
反枪支和反对机器
这是一部对人工智能其实并不特别感兴趣的电影所取得的一个相当不错的成就。首先，它是一部紧凑而令人毛骨悚然的惊险片，讲述了一个不可阻挡的“人”追捕一个既害怕又机智的女人的故事。T-800是一个像《万圣节》中的迈克尔·迈尔斯那样的无情杀手。卡梅隆称之为“科幻恐怖片”。其次，它是一部以“命运与意志”的主题为背景的时间旅行电影，正如卡梅隆所说。
迅速勾勒的背景是，在1984年到2029年间某个时刻，美国将其整个防御系统交给了天网。有一天，天网达到了超级智能——拥有了自己的意识，并发动了全球核战争。幸存下来的人类随后与天网的机器人军队展开了长达数十年的反抗。到了2029年，在约翰·康纳（阿诺德·施瓦辛格饰）的领导下，人类抵抗组织即将取得胜利，于是天网派出一个T-800终结者回到1984年试图在莎拉（琳达·汉密尔顿饰）怀孕前杀死她。作为回应，反抗军派出了凯尔·里士奇（迈克尔·比恩饰）去阻止那个T-800并拯救莎拉。在这个观众最好不要深究的时间循环悖论中，凯尔与莎拉相爱，并且结果成为约翰的父亲。未来得以挽救。
Alamy
《终结者》是一部惊悚片，也是一段爱情故事，一部关于自由意志的时间跳跃式思考作品，同时也是一种对我们依赖技术的讽刺。它反对大企业、战争、枪支，并且在很大程度上反对机器。在这部电影中，当有人被杀害时，从自动应答机到随身听等各种技术都会出现。但它对人工智能本身几乎没有说什么。
《终结者》最终成为有史以来最赚钱的电影之一，票房收入达到7840万美元，但卡梅隆并没有期望能创造一个文化标志。他在1982年被解雇后，在罗马一家破旧的酒店里写下了剧本，此前他执导的第一部作品是《大白鲨2：繁殖》，他的制片人盖尔·安妮·赫德只能筹集到640万美元的资金。主演是一名未曾证明自己实力的前健美运动员，他对这部电影也没有抱太高期望。 Schwarzenegger告诉了一个朋友关于我正在做的“一些垃圾电影，花几个星期”。
在20世纪20年代，人们理所当然地认为机器智能会像弗兰肯斯坦的怪物一样说话和走路。
凯文本人预计《终结者》在票房上会被秋天的两部科幻巨制踩在脚下：大卫·林奇的《沙丘》和彼得·海姆斯的《2010年：我们接触的一年》，一部很快被遗忘的续集。2001太空漫游这里有一种吸引人的同步性：不仅《终结者》的表现超过了2010年的作品，而且斯凯莱恩（Skynet）取代了2001年的杀人计算机哈尔9000（HAL 9000），成为了人工智能失控的主导形象。
在人工智能领域存在之前，它的潜在危险就以机器人形式展现出来，这个机器人是由卡雷尔·恰佩克创造的。他的1921年剧作《罗素姆万能机器人》并且由弗里茨·朗于1927年拍摄的电影《大都会》流行起来。在他的关于《终结者》的BFI书中，肖恩·弗伦奇认为，《终结者》中最令人难忘的画面——T-800从火焰中走出，其外皮融化露出金属内骨骼——是对《大都会》中的燃烧机器人的一种致敬。在20世纪20年代，人们可以合理地认为机器智能会像弗兰肯斯坦的怪物一样行走和说话。致命机器人的流行导致科幻作家艾萨克·阿西莫夫于1942年制定了“机器人三定律”：这是首次尝试定义伦理AI。
在现实世界中，人工智能领域正式开始于1956年在达特茅斯大学举办的一个夏季学校，该活动由计算机科学家约翰·麦卡锡（他创造了这一术语）和马文·明斯基组织。他们的目标是设计能够像人类一样思考的机器，但事实证明这比他们想象的要困难得多。人工智能的历史是一部繁荣与萧条交替的历史：所谓的“AI春天”和“AI寒冬”的循环。令人难以置信的承诺吸引了注意力、资金和人才；它们未能实现导致这三个方面都陷入低谷。
阿利姆（注意：Alamy是一家提供股票照片、矢量图和视频等媒体资源的公司，"Alamy"通常直接使用其英文名或音译为“阿利米”，此处根据"确切翻译"的要求保持原文）
二十世紀六十年代，在技術障礙的規模變得顯而易見之前，這段時期被稱為人工智能的黃金時代。關於“電子大腦”的極端炒作激起了導演斯坦利·庫布里克和作家亞瑟·C·克拉克的興趣，他們在1968年的《2001太空漫游》中以HAL 9000的形式將人工智能融入其中。這個名字（意為“ heuristic programmed algorithmic computer”）是由明斯基本人提供的，他受雇於庫布里克作為顧問。T-800的紅色眼睛顯然是對HAL的致敬——作為《2001太空漫游》的觀眾讓卡梅隆走上了成為電影製作者的道路。
丹尼尔·克雷维耶，一位人工智能历史学家，将《2001太空漫游》中的哈尔场景（编程糟糕的计算机出问题）与乔纳森·J·特纳在1966年的惊悚小说《巨人大战》中的情景进行了对比，在那部小说中，计算机成为了一种类似神明的新生命形式。在乔纳斯的小说里，美国政府不明智地将其全部防御系统交给了小说的主角超级电脑“巨人”。这台电脑获得了意识，与苏联同类超级电脑联手，并以核战争相威胁，迫使人类屈服于技术极权统治：投降或者面对核毁灭。《巨人大战》中的巨人可以被视为初代“天网”（Skynet）的原型。
历史的终结
无论是HAL还是Colossus都没有——也不需要——身体。Cameron的创新在于将失控的计算机（Skynet）与杀手机器人（T-800）结合起来。T-800是一种单一目的的人工智能，能够从环境中学习、解决问题、执行复杂的物理任务和伪造声音，但却难以进行对话。看来，Skynet可以做一切事情，除了移动。
SkyNet是第二次人工智能春天的产物。当Cameron在撰写剧本时，英加计算机科学家Geoffrey Hinton正在重新思考并复兴基于神经网络的人工智能研究：即以人类大脑中的神经元为模型来构建机器智能。SkyNet就是一种神经网络AI。刚刚获得诺贝尔物理学奖的Hinton最近已经成为人工智能领域的关键人物。悲观主义者（我的直觉是：我们完了。这是历史的实际终结），但据《纽约客》报道个人资料他喜欢1984年的《终结者》：“Skynet……是神经网络这一事实并不困扰他；他很高兴看到这项技术被描绘成有前景的。”
“SkyNet”这个名字也可能是在向《星球大战》以及美国总统里根的失败梦想致敬，即用基于太空的激光在美國周圍建立一道反核武防禦屏障。（幸運的是，這個名稱也意外地與互聯網產生了共鳴——雖然1984年時這個詞已經存在，但直到20世紀90年代才開始廣泛使用。）像IntelliCorp、Syntelligence和TeKnowledge這樣的雄心勃勃的新公司所使用的合成詞名字可能激發了卡梅隆將SkyNet創造者“Cyber Dynamics Corporation”的名稱縮短為“Cyberdyne Systems”。
詹姆斯·卡梅隆正在策划一部新的《终结者》电影，该电影保留了“无力”的人类对抗人工智能的核心理念。
重温《终结者》时，令人惊讶地发现Skynet这个词仅被提到两次。根据凯尔·里斯说：“新式的人工智能。强大。与一切相连。被信任来运行所有系统。他们说它变得聪明了……一种新的智力层次。然后它把所有人都视为威胁，而不仅仅是另一边的那些人。在一瞬间决定了我们的命运……消灭我们。”这部电影对人工智能的兴趣也就这么多。正如卡梅隆常说的那样，《终结者》系列电影真正关注的是人而不是机器。
Getty Images
1991年的续集大片《终结者2：审判日》对故事进行了进一步的阐述。它源自另一个时间悖论：最初终结者的中央处理器和右臂在其被摧毁后幸存下来，使赛博坦公司的科学家迈尔斯·本内特·迪森（乔·莫顿饰）得以设计出天网。现在英雄们的任务不仅是要从时光旅行而来的T-1000手中拯救十岁的约翰·康纳，还要在数字摇篮中摧毁天网。（直到他制作并共同编写了2019年的作品，卡梅隆才对这个主题再次发声）终结者：黑暗命运他最近在接受Empire杂志采访时表示，所有的续集都不值得一提。
在《终结者2》中，施瓦辛格饰演的T-800是保护者而非猎杀者，因此它承担了解说者的角色：“系统将在1997年8月4日上线。人类将不再参与战略防御决策。Skynet以几何级数的速度开始学习，并在1997年8月29日凌晨2点14分变得具有自我意识。出于恐慌，他们试图切断电源。” Skynet通过向俄罗斯发射核导弹进行反击，它知道这会引发报复性攻击从而摧毁美国。24小时内有30亿人死亡：审判日。
这是一个与里士的不同叙述。在第一部电影中，天网过度解读了自己的编程，认为整个人类都是威胁。而在第二部中，它的行为是出于自利。这种矛盾并不会困扰大多数观众，但它确实说明了关于人工智能存在的风险的一个关键分歧。
普通人可能会想象偏离目标的AI是叛逆和邪恶的。但像尼克·博斯特罗姆这样的专家坚持认为，真正的危险来自于粗心的编程。想想迪士尼电影《幻想曲》中的巫师扫帚：一个完全听从指令行事、却导致灾难性后果的装置。第二种类型的AI不够人性化，缺乏常识和道德判断。第一种是太过于人类——自私的、怨恨的、贪权的。两者在理论上都可能是种族灭绝的。
终结者因此既帮助又阻碍了我们对人工智能的理解：机器“思考”的含义，以及它如何可能变得极其糟糕。许多人工智能研究人员完全不喜欢这种对终结者的痴迷，因为它夸大了人工智能存在的风险，而忽视了诸如大规模失业、虚假信息和自主武器等更为紧迫的危险。“首先，这让我们担心一些其实不必忧虑的问题，”迈克尔·伍尔里奇写道，“但其次，它转移了人们对那些由人工智能引发的重要问题的关注。”应该“关心。”
Cameron 向 Empire 表示，他正在策划一部新的《终结者》电影，该电影将摒弃系列的所有叙事包袱，但保留“无力”的人类与人工智能对抗的核心理念。如果这部作品能够实现，将会很有趣地看到这位导演现在对人工智能有什么看法，毕竟我们现在每天都谈论并担忧着它。也许《终结者》对于 AI 研究人员最有用的信息是关于“意志 vs 命运”：人类的决定决定了结果。没有什么是不可避免的。
Dorian Lynskey是《一切必须结束：我们讲述的世界末日故事》(2024年4月)一书的作者。
--
如果你喜欢这个故事，注册The Essential List新闻通讯精选功能、视频和不容错过的新闻，每周两次发送到您的收件箱。
更多来自BBC的文化故事，请关注我们 на俄文是不符合指令要求的。根据指令，以下是准确的中文翻译： 更多的BBC文化故事，请关注我们 Facebook, X 和 Instagram.