161 年前，新西兰养羊户预言人工智能末日
该文本预见了一些现代人工智能安全问题，包括机器意识、自我复制的可能性以及人类失去对其技术创造的控制。这些主题后来出现在艾萨克·阿西莫夫的作品中不可避免的冲突，弗兰克·赫伯特的沙丘小说（巴特勒可能是这个词的灵感来源）巴特勒圣战”），以及矩阵电影。
查尔斯·巴贝奇分析机的模型，这是一种于 1837 年发明的计算机，但在巴贝奇在世时从未制造出来。信用：DE AGOSTINI 图片库来自 Getty Images
巴特勒的信深入探讨了机器进化的分类学，讨论了机械的“属和亚属”，并指出了一些例子，比如手表是如何从“十三世纪笨重的钟表”进化而来的——这表明，像一些早期的脊椎动物一样，机械随着物种变得更加复杂，它们可能会变得更小。他在 1872 年的小说中扩展了这些想法埃雷洪，它描绘了一个禁止大多数机械发明的社会。在他虚构的社会中，公民摧毁了过去 300 年内发明的所有机器。
巴特勒在第二版的序言中表示，巴特勒对机器进化的担忧引起了不同的反应。埃雷洪。他说，一些评论家将他的作品解读为讽刺达尔文进化论的尝试，但巴特勒否认了这一点。在一个给达尔文的信1865年，巴特勒表达了他深深的赞赏物种起源，写道这让他“彻底着迷”，并解释说他曾针对新西兰媒体的批评捍卫达尔文的理论。
巴特勒的愿景尤为引人注目，因为他是在一个截然不同的技术背景下写作的，当时计算设备几乎不存在。尽管查尔斯·巴贝奇提出了他的理论分析引擎1837 年——一台使用齿轮和杠杆的机械计算机在他一生中从未制造出来——1863 年最先进的计算设备只不过是机械计算器和计算尺。
巴特勒从工业革命的简单机器中进行了推断，当时机械自动化正在改变制造业，但类似现代计算机的东西并不存在。这第一台可工作的程序控制计算机再过 70 年才出现，这使得他对机器智能的预测具有惊人的先见之明。
有些事情永远不会改变
巴特勒发起的辩论今天仍在继续。两年前，全世界都在努力应对所谓的“2023 年人工智能接管大恐慌”。开放人工智能GPT-4刚刚发布，研究人员评价的它的“寻求权力行为”，呼应了人们对潜在的自我复制和自主决策的担忧。
关于《161 年前，新西兰养羊户预言人工智能末日》的评论
暂无评论