英语轻松读发新版了,欢迎下载、更新

这本1992年的邪教科幻书实际上使现代AI正确

2025-06-02 13:01:00 英文原文

作者:Tasha Robinson

当前的文化迷恋和对人工智能的沮丧并不是什么新鲜事物。早在1921年捷克R.U.R.工人权利的故事首先创造了一个机器人科幻小说作家将对人工智能的恐惧引导到了机器人代表(或只是提出)绝对最好或最坏的人类的故事中。

但是,AI的虚构肖像几乎从来都不是AI的实际礼物。所有这些杀手终止者,叛逆的西部世界机器人和核武器超级计算机与AI现在的外观无关,无尽的道德辩论,,,,破坏性的环境影响, 和有趣的失败。尽管如此,关于人们的最新故事像朋友和治疗师一样对待生成聊天机器人关于结果可能发生的事情的警告一直让我想起一部科幻小说,它确实对现代AI面临的问题有先见之明的见解。

约翰·瓦利(John Varley)1992年的小说钢海滩揭示了一个狂野的未来世界,外星人破坏了人类在地球上的生命。人类已经陷入了月球(标题的不受欢迎的钢海滩)和其他殖民地,形成了该殖民地八个世界瓦利许多故事和小说中的许多制度。将来钢海滩,人类经营恐龙牧场,以一时兴起改变并重写身体,并种植有机的脑对计算机界面,以便他们可以思考操作设备。但是,这本书仍然比大多数近乎出现的期货中的大多数科幻书籍都在现实世界中的某些方面变得更好。特别是,瓦利不仅考虑AI对人类的影响,因此他深入研究了人类对AI的影响。

An astronaut reflected in the glowing red glass eye of Hal 9000 in Stanley Kubrick’s 1968 film 2001: A Space Odyssey

科幻小说通常倾向于警报警告性故事,因为反乌托邦的故事是通常比乌托邦故事更令人兴奋和戏剧性。与《星际迷航》系列这样的纯粹实证主义科幻小说系列很少见2001年:空间奥德赛,灰分外星人,或整个超级机器人世界矩阵。(即使在《星际迷航》展览中,故障和恶毒的计算机或Holodeck Avatars也很普遍。)但是Varley采取了不同的策略。钢海滩首先是在后期的未来,人们生活了几个世纪,如果他们愿意的话,每个人都可以保证这是一项充实的工作,而人工智能是每个人最亲密,最吸引人,最热情的倡导者。

这本书的主角,愤世嫉俗的记者希尔迪·约翰逊(以1928年的王牌记者的名字命名首页及其各种改编版)描述了将月亮运行的Luna Central计算机 - 一个非常聪明,朴实的仆人,可以通过生活的实际困难来缓解我们。CC几乎处理了月球文明的各个方面,从运行空气,供暖,供暖,饮水,污水和运输系统到管理政府。

它还在个人层面上与几乎所有月亮的公民互动。人们通常将CC的个人界面用作Siri/Alexa型虚拟助手,发送消息并组织日历。但是他们通常通过大脑链接访问CC,因此它可以直接向他们的思想交谈,甚至可以通过所谓的直接界面将它们吸引到相当于虚拟现实世界的等效。随着希尔迪(Hildy)逐渐学习,CC正在不断监视其公民,评估其健康和精神状态,并创造性地介入以促进其福祉。

The cover of the Science Fiction Book Club edition of John Varley’s Steel Beach, with a man and a woman’s heads in profile, facing outward in opposite directions, with the moon in the sky behind them and two bright butterflies superimposed over them

图像:SFBC

没有经历情感的非判断性人工伴侣的想法,但已被编程为模仿它们,以使其用户感到被爱和照顾 - 这在有些用户在现代聊天机器人中体验什么。那的想法也是如此监视软件总是监视其用户。但是,在这个确切的时刻,人们不太熟悉的是人们钢海滩倾向于使用CC。

在本书的早期,希尔迪将其描述为每个孩子的理想假播,一个无休止的灵活性和不断出现的伴侣,为每个公民提供一个独特的个性。他们的缺点,甚至比最先进,最有爱心的计算机变得更好,更细微,更有意义的伴侣。

随着我们现实世界中越来越多的人转向诸如chatgpt之类的陪伴的机器人,很难相信,在希尔迪社会中,普通人对不断访问,支持性的存在不需要或兴趣,从而为每个用户的需求量身定制自己。(未来Spike Jonze,主角与AI同伴建立了痴迷的关系,似乎更有可能。毕竟,我们确实生活在一个世界人们甚至击中了最基本的安排机器人

大多数人将这个无休止的同情伴侣变成无提其无提短信工具的想法似乎是不可能的。但是值得注意的是,希尔迪(Hildy)与CC的关系更加复杂,情感和投入,这表明希尔迪一定要意识到其他人如何与无所不在的霸主交往。

这种关系背后的原因是真正的原因钢海滩对当今AI的问题感到非常有见地。钢海滩是一部情节,广阔的小说,利用希尔迪(Hildy)寻找有意义的,令人满意的生活,作为有关新闻,身体修改,人际关系,资本主义,识字,心理健康,逃避现实的象征的框架。(尤其是性别:这本书的挑衅性开场白是在五年内,阴茎将过时。

事实证明,中央计算机在这种关系上花费了很多时间,因为它试图解决希尔迪未经认可的抑郁症,倾向于自杀 - CC由于对月球上每个人的所有麻烦和苦难的深入了解,CC正在经历自己。CC与每个人的大脑都息息相关,因此它与他们的痛苦紧密相关。它与每个人的生活有关,但在法律上被阻止分享有关其任何用户的任何个人或私人信息。因此,例如,即使是针对其他用户,它也可以报告他们犯下的犯罪。它必须对每个人的苦难都有特权,而无权对此做任何事情。

Joaquin Phoenix sits in front of his computer, hands folded as he waits on his new AI companion, in Her

但是,真正令我着迷的是CC令人着迷的是,它试图适应每个用户需求的想法使它伴随着无尽的内部个性冲突。在一个特别极端的情况下,Hildy意识到,CC已被编程为同情,支持和尊重乱伦的儿童骚扰,就像对女儿的殴打一样。由于试图调和所有这些相互矛盾的自我,计算机正在失去思想(或思想)。

这与现代AI有何关系?这很重要,因为即使在今天,AI工具仍在围绕冲突的需求,关注和信念而建立和完善。考虑Elon Musk的AI Chatbot项目Grok,设计为Openai的Chatgpt的柜台。马斯克声称,格罗克会避免chatgpt的自由主义偏见,但该软件震惊了他的追随者确定他是当今世界上最大的错误信息传播者确认这一点跨性别女性是女人疫苗不会引起自闭症并详细解释了麝香政治上关于政府支出移民支出的主张是错误的。在X上,马斯克哀叹woke垃圾的垃圾正在从互联网上摄入,并保证该机器人会变得更好。我立即想到钢海滩

这是一个普遍的神话AI是客观的和中立的,因为机器偏见了,但这是不正确的。任何创建互动大语模型的人必须面对偏见的问题,因为他们都接受了人类投入的培训,并且人类众所周知有偏见

内在的偏见烤成AI模型通常是有意的,但是对其进行抵消必须是一个有意的过程,这为更大的蠕虫打开了。抱怨AI Image Generators要求一张美丽的女人反映用于训练它们的在线内容的一件事,对异常瘦弱,年轻,肤色浅的女人表现出巨大的偏见。另一个要弄清楚如何重置这种偏见,以及在AI训练中叠加的特定美丽标准。

The Ace Books cover of John Varley’s Steel Beach, with the title rended in blocky, metallic letters over a computer-chip-like grid, and a robot butterfly perched on the L

图片:王牌书

而且,无论交互式AI认为是什么事实,仍然存在程序员如何或应该限制其能够告诉用户的问题。自从大型语言模型首次发布以来,这个问题一直是AI对话的一部分。Chatgpt的早期用户提出了探索所有可能被欺骗的方式来解释,例如如何制造炸弹入店行窃的最佳方法。显然是另一个聊天机器人说服用户自杀。设置AI允许告诉用户的安全护栏以及它如何回答危险问题创建它们的人的主要关注点

所有这些都带我回到钢海滩,以及一个被冲突的意见和需求完全损害的AI故事,被告知将其视为同样有价值和重要的。Varley的中央计算机的目的是平等地为每个人服务,但是它可以天生,因为人们需要冲突。它是每个人的伴侣,但是对其用途进行监视和管理的人们不同意其用途,以及他们设置在其上的一些护栏证明是灾难性的。它解决矛盾的编程和用户需求的方式是纯粹的科幻小说的内容 - 但它们使一个有趣的,令人兴奋的故事以及对AI无意中反映其创造者自身复杂性的所有方式的投机性思维方式。

一部分使钢海滩一本有趣而周到的读物是,它是在当前的任何现实世界中的任何辩论成为每日新闻之前就写的。Varley没有公开评论或分析AI的任何特定目前的观点。他没有手指挥舞或发挥争论。他只是推断了一台公正的计算机在许多方向上,围绕许多人的矛盾需求和期望,这将是什么样。像许多科幻小说一样,这是一个警示性的故事。但是,就像最好的科幻小说一样,它在一个伟大的,令人惊讶的故事中包裹了对技术的思考。

$ 6

人类逃离外星人入侵后,人类属于进化的门槛。他们的新家是露娜(Luna),它是一个拥有生物舒适感,寿命,数字记忆和即时性别变化的月亮殖民地。但是露娜人民很无聊,躁动不安,自杀 - 计算机也可以监视他们的存在...

关于《这本1992年的邪教科幻书实际上使现代AI正确》的评论


暂无评论

发表评论

摘要

当前的迷恋和对AI回应的主题的关注以及像Karelčapek的1921年戏剧《 R.U.R.》等早期小说中的主题约翰·瓦利(John Varley)1992年的小说《钢铁海滩》(Steel Beach)因其对现代AI问题的有先见之明的见解而脱颖而出。本书坐落在世界末日的未来,人类生活在月球上,探索了与公民紧密互动的无所不在的中央计算机,但受到冲突的要求和法律限制的限制,反映了当代有关AI偏见和局限性的辩论。Varley的叙述强调了AI系统如何在保持公正的同时努力平衡各种用户需求,并提供了一个引人入胜的故事中包裹的警示故事。

相关讨论