人工智能：过去的五巨头可以教我们如何应对风险

人工智能 (AI) 的进步始终如一。和OpenAI 的最新型号 o3，最近打破了记录再一次，它提出了有关安全以及人类未来的紧迫问题。

我们可以向过去的伟大思想家寻求帮助。他们探索世界中显而易见的事物，并经常展望未来，预见机器将拥有类似人工智能的能力。

英国 19 世纪数学家兼作家艾达·洛夫莱斯 (Ada Lovelace) 有时被认为是第一位计算机程序员，因为她与博学者查尔斯·巴贝奇 (Charles Babbage) 合作开发了他的计算机程序。分析引擎—。这是一台通用机械计算机，从未完成，但其设计反映了几十年后计算机的设计。

她1842 给巴贝奇的笔记在探索他提出的设备的潜力时，他预见到了未来类似于人工智能的东西。她说，“除了数字之外，它还可能对其他事物产生作用”，并暗示这样一台机器有一天可以表达音高之间的关系，以便“创作出任何复杂程度或范围的精心设计和科学的音乐作品”。

这需要对大量声音和音乐数据进行模式识别——这正是大型语言模型今天正在做的事情生成音乐根据文字提示。

尽管如此，洛夫莱斯对机器的思维能力持怀疑态度，认为它仍然依赖人类来创造它能想出的任何东西。事实上，今天的人工智能模型仍然没有真正思考，而是根据来自互联网的数万亿人类单词进行训练，根据数学概率构建句子。

洛夫莱斯指出这些限制是为了“防止可能出现关于分析引擎能力的夸大想法”。然而，她也强调了这台机器可能超出其单纯输出的“附带影响”。她的例子是，它可以为科学带来新的启示，但更广泛的含义是，决不能低估此类设备。

图灵测试

洛夫莱斯的论点还提出了另一个隐含的问题。如果机器确实成为发明者，一旦感知不再是科幻小说，会发生什么？这启发了几十年后另一位英国数学家和思想家艾伦·图灵。

图灵的1949年——模仿游戏——后来被称为图灵测试，旨在确定计算机是否能够以与人类相当的方式思考。在被考虑之前，它仍然是人工智能的一个关键测试被 OpenAI 的 ChatGPT 超越2022年。

图灵实际上认为这会发生得更早，他在一篇著名的文章中写道1950年论文:

我相信，到本世纪末，词语的使用和一般受过教育的观点将会发生很大的变化，以至于人们将能够谈论机器思维而不会期望受到矛盾。

他对于跨越这个卢比孔意味着什么并不特别悲观，在同一篇论文中主张尝试创造一种模拟儿童思维而不是成人思维的机器。他认为这可以“轻松编程”，这意味着我们不必担心这种努力。

同样，他也并非对人类最终屈服于思维机器的可能性视而不见。在一个1951年公开演讲他说道：“如果机器能够思考，它的思考能力可能比我们更聪明，那么我们应该在哪里呢？”

图灵的传记作者克里斯托夫·特舍尔（Christof Teuscher）将他描述为“科学界的奥威尔”。将他的观点与乔治·奥威尔本人进行对比是很有趣的，乔治·奥威尔尽管从未思考过人工智能，但确实更普遍地谈论了机器的危险。通往维根码头的路（1937）。

如果你准备好把“机器”换成“人工智能”，它会为奥威尔对当今技术军备竞赛的看法提供有趣的可能性：

从某种意义上说，敏感的人对 [AI] 的敌意是不现实的，因为 [AI] 已经留下来这一明显事实。但作为一种心态，它有很多值得说的……

从口头上来说，毫无疑问，我们会同意[AI]是为人类而生，而不是人类为[AI]而生；在实践中，任何阻止[人工智能]发展的尝试在我们看来都是对知识的攻击，因此也是一种亵渎。而且，即使全人类突然反抗[AI]并决定逃往更简单的生活方式，逃亡仍然是极其困难的……

让世界尽可能机械化，无论你采取哪种方式，都会有一些[人工智能]切断你工作的机会——即生活的机会。

诺伯特·维纳的伦理学

这让我们想到了美国科学家和数学家诺伯特·维纳。维纳被公认为计算机伦理学的创始人，他的开创性工作是人类对人类的利用（1950），旨在“警告挖掘机器潜力的危险”。

维纳预见到机器将相互交谈的时代，并且随着时间的推移而改善通过能够跟踪他们过去的表现。

将其与在一个古老的民间故事中，一个人在一个瓶子里发现了一个神灵（djinnee），并且知道它最好留在那儿，他写道：

像神灵这样的机器可以学习并可以根据其学习做出决定，它绝不会被迫做出我们应该做出的决定，或者我们可以接受的决定。

几十年后，英国物理学家斯蒂芬·霍金也有类似的担忧。他写于2016年人工智能可以是：

这是我们文明史上最重大的事件，但也可能是最后一次——除非我们学会如何避免风险。除了好处之外，人工智能还将带来危险，例如强大的自主武器或少数人压迫多数人的新方法。

在他生命的最后几个月里，他写道：

我担心人工智能可能会完全取代人类。如果人们设计了计算机病毒，那么就会有人设计出能够自我改进和复制的人工智能。这将是一种超越人类的新生命形式。

过去的这五位巨头促使我们非常仔细地思考人工智能。洛夫莱斯谈到人类倾向于首先高估新技术的潜力，但后来却因低估现实而过度纠正。维纳警告反对对未经检验的技术潜力的“自私开发”，多年来，这肯定导致我们因 IT 故障而遭受无数灾难性后果。

显然，同样的事情现在可以通过更强大的技术发生。这些作家很可能会看到最近的事态发展，并看到傻瓜冲进了天使不敢涉足的地方。