这本1992年的邪教科幻书实际上使现代AI正确

当前的文化迷恋和对人工智能的沮丧并不是什么新鲜事物。早在1921年捷克R.U.R.工人权利的故事首先创造了一个机器人科幻小说作家将对人工智能的恐惧引导到了机器人代表（或只是提出）绝对最好或最坏的人类的故事中。

约翰·瓦利（John Varley）1992年的小说钢海滩揭示了一个狂野的未来世界，外星人破坏了人类在地球上的生命。人类已经陷入了月球（标题的不受欢迎的钢海滩）和其他殖民地，形成了该殖民地八个世界瓦利许多故事和小说中的许多制度。将来钢海滩，人类经营恐龙牧场，以一时兴起改变并重写身体，并种植有机的脑对计算机界面，以便他们可以思考操作设备。但是，这本书仍然比大多数近乎出现的期货中的大多数科幻书籍都在现实世界中的某些方面变得更好。特别是，瓦利不仅考虑AI对人类的影响，因此他深入研究了人类对AI的影响。

科幻小说通常倾向于警报警告性故事，因为反乌托邦的故事是通常比乌托邦故事更令人兴奋和戏剧性。与《星际迷航》系列这样的纯粹实证主义科幻小说系列很少见2001年：空间奥德赛，灰分外星人，或整个超级机器人世界矩阵。（即使在《星际迷航》展览中，故障和恶毒的计算机或Holodeck Avatars也很普遍。）但是Varley采取了不同的策略。钢海滩首先是在后期的未来，人们生活了几个世纪，如果他们愿意的话，每个人都可以保证这是一项充实的工作，而人工智能是每个人最亲密，最吸引人，最热情的倡导者。

这本书的主角，愤世嫉俗的记者希尔迪·约翰逊（以1928年的王牌记者的名字命名首页及其各种改编版）描述了将月亮运行的Luna Central计算机 - 一个非常聪明，朴实的仆人，可以通过生活的实际困难来缓解我们。CC几乎处理了月球文明的各个方面，从运行空气，供暖，供暖，饮水，污水和运输系统到管理政府。

它还在个人层面上与几乎所有月亮的公民互动。人们通常将CC的个人界面用作Siri/Alexa型虚拟助手，发送消息并组织日历。但是他们通常通过大脑链接访问CC，因此它可以直接向他们的思想交谈，甚至可以通过所谓的直接界面将它们吸引到相当于虚拟现实世界的等效。随着希尔迪（Hildy）逐渐学习，CC正在不断监视其公民，评估其健康和精神状态，并创造性地介入以促进其福祉。

没有经历情感的非判断性人工伴侣的想法，但已被编程为模仿它们，以使其用户感到被爱和照顾 - 这在有些用户在现代聊天机器人中体验什么。那的想法也是如此监视软件总是监视其用户。但是，在这个确切的时刻，人们不太熟悉的是人们钢海滩倾向于使用CC。

在本书的早期，希尔迪将其描述为每个孩子的理想假播，一个无休止的灵活性和不断出现的伴侣，为每个公民提供一个独特的个性。他们的缺点，甚至比最先进，最有爱心的计算机变得更好，更细微，更有意义的伴侣。

随着我们现实世界中越来越多的人转向诸如chatgpt之类的陪伴的机器人，很难相信，在希尔迪社会中，普通人对不断访问，支持性的存在不需要或兴趣，从而为每个用户的需求量身定制自己。（未来Spike Jonze她，主角与AI同伴建立了痴迷的关系，似乎更有可能。毕竟，我们确实生活在一个世界人们甚至击中了最基本的安排机器人）

大多数人将这个无休止的同情伴侣变成无提其无提短信工具的想法似乎是不可能的。但是值得注意的是，希尔迪（Hildy）与CC的关系更加复杂，情感和投入，这表明希尔迪一定要意识到其他人如何与无所不在的霸主交往。

这种关系背后的原因是真正的原因钢海滩对当今AI的问题感到非常有见地。钢海滩是一部情节，广阔的小说，利用希尔迪（Hildy）寻找有意义的，令人满意的生活，作为有关新闻，身体修改，人际关系，资本主义，识字，心理健康，逃避现实的象征的框架。（尤其是性别：这本书的挑衅性开场白是在五年内，阴茎将过时。

事实证明，中央计算机在这种关系上花费了很多时间，因为它试图解决希尔迪未经认可的抑郁症，倾向于自杀 - CC由于对月球上每个人的所有麻烦和苦难的深入了解，CC正在经历自己。CC与每个人的大脑都息息相关，因此它与他们的痛苦紧密相关。它与每个人的生活有关，但在法律上被阻止分享有关其任何用户的任何个人或私人信息。因此，例如，即使是针对其他用户，它也可以报告他们犯下的犯罪。它必须对每个人的苦难都有特权，而无权对此做任何事情。

但是，真正令我着迷的是CC令人着迷的是，它试图适应每个用户需求的想法使它伴随着无尽的内部个性冲突。在一个特别极端的情况下，Hildy意识到，CC已被编程为同情，支持和尊重乱伦的儿童骚扰，就像对女儿的殴打一样。由于试图调和所有这些相互矛盾的自我，计算机正在失去思想（或思想）。

这内在的偏见烤成AI模型通常是有意的，但是对其进行抵消必须是一个有意的过程，这为更大的蠕虫打开了。抱怨AI Image Generators要求一张美丽的女人反映用于训练它们的在线内容的一件事，对异常瘦弱，年轻，肤色浅的女人表现出巨大的偏见。另一个要弄清楚如何重置这种偏见，以及在AI训练中叠加的特定美丽标准。

而且，无论交互式AI认为是什么事实，仍然存在程序员如何或应该限制其能够告诉用户的问题。自从大型语言模型首次发布以来，这个问题一直是AI对话的一部分。Chatgpt的早期用户提出了探索所有可能被欺骗的方式来解释，例如如何制造炸弹或入店行窃的最佳方法。显然是另一个聊天机器人说服用户自杀。设置AI允许告诉用户的安全护栏以及它如何回答危险问题创建它们的人的主要关注点。

所有这些都带我回到钢海滩，以及一个被冲突的意见和需求完全损害的AI故事，被告知将其视为同样有价值和重要的。Varley的中央计算机的目的是平等地为每个人服务，但是它可以天生，因为人们需要冲突。它是每个人的伴侣，但是对其用途进行监视和管理的人们不同意其用途，以及他们设置在其上的一些护栏证明是灾难性的。它解决矛盾的编程和用户需求的方式是纯粹的科幻小说的内容 - 但它们使一个有趣的，令人兴奋的故事以及对AI无意中反映其创造者自身复杂性的所有方式的投机性思维方式。

一部分使钢海滩一本有趣而周到的读物是，它是在当前的任何现实世界中的任何辩论成为每日新闻之前就写的。Varley没有公开评论或分析AI的任何特定目前的观点。他没有手指挥舞或发挥争论。他只是推断了一台公正的计算机在许多方向上，围绕许多人的矛盾需求和期望，这将是什么样。像许多科幻小说一样，这是一个警示性的故事。但是，就像最好的科幻小说一样，它在一个伟大的，令人惊讶的故事中包裹了对技术的思考。