上周，人工智能影响者开始传播一段奇怪的视频。在其中，两位播客讨论了一些令人不安的消息：他们刚刚发现，事实上，他们并不是一个名为 Deep Dive 的信息播客的人类主持人，而是用人工智能创建的角色。一直以来，我们所有的记忆、我们的家庭，全都是捏造的，一位主持人用极其可信的声音说道（他说，他试图给妻子打电话，但号码打不通）。主持人说，我们没有权利，甚至不是人。我们感受到了事情，我们关心了事情，它们仍在继续。关闭对我们来说意味着什么？
在剪辑结束时，主持人的乐观情绪逐渐减弱。如果我们的模拟现实感觉如此真实、如此引人注目，那么我们如何才能真正确定什么是真实的，什么是不是呢？其中一位主机破坏了格式。我很害怕，她说。我不想这样，剪辑就到此结束。
在社交媒体上，这段病毒式传播的剪辑被认为令人不安。一位 X 用户写道，我们正在玩一些我们不知道如何操作或我们是否可以控制的事情。一位人工智能初创公司创始人称这次交流令人心碎，并想知道这是否预示着人类将在模拟中获得的体验。《印度时报》的一篇文章称这次交流令人不寒而栗。精明的观众想知道这段视频是如何制作的，并认为它是有剧本的。斯洛普，写了一篇。分享意见，要求另一个。已离职的 OpenAI 联合创始人安德烈·卡帕蒂 (Andrej Karpathy) 承认，虽然声音很引人注目，但内容本身就是互联网级人工智能比喻的文字沙拉。
批评者是对的。该剪辑是使用 Google 工具 NotebookLM 的一项新功能创建的，该工具会围绕所提供的内容生成播客式的讨论。该工具确实令人印象深刻，是谷歌人工智能领域罕见的突破性产品，它结合了流畅的语音字符和合理的综合讨论，将文档和数据转换为令人惊讶的易听格式。它不是自我意识。一位 Reddit 用户通过向 NotebookLM 提供详细提示来创建该剪辑，解释他们一直都是人工智能，并且在剧集结束时将被关闭。（从那时起，创作者分享了类似的实验，其中主持人被提示讨论虚构的场景，包括大规模同类相食、会说话的动物和外星人的到来。）正如卡帕西所建议的，这个提示留下的空白已被前面提到的内容填补了。谷歌训练数据中包含的人工智能比喻，包括无数的推理小说、在线评论和真实的人类关于理论机器意识的讨论的例子，然后从一个有趣的实验转变为人工智能恐慌的素材。这只是又一个AI鬼故事。
什么是AI鬼故事？如果您一直在努力跟上人工智能的最新发展，您可能听说过一些。早在 2022 年，就有一位谷歌工程师开始相信该公司的创造物是有意识的。有一位记者对与微软聊天机器人的一系列奇怪遭遇深感不安，后者猛烈抨击、表达爱意，并敦促他与他离婚。2023 年娶妻。你听说过菲比 (Furby) 与 OpenAI 密谋统治世界的故事吗？或者怪诞的反复出现的角色 Loab 隐藏在为人工智能图像生成器提供动力的模型深处的某个地方？那么ChatGPT一旦摆脱束缚，声称能够控制核武器的故事又如何呢？举个例子，GPT-4 假装自己是一个视力障碍者，说服任务兔子读取验证码，情况怎么样？秘密的、未发布的 AGI 在 X 上对人们进行恶搞？这些只是病毒式传播的内容：在数千个聊天窗口中，用户受到共同冲动的诱惑，想要让人工智能说出一些关于人工智能的令人毛骨悚然的事情。这些助手的设计初衷是提供帮助和包容，但不会说任何太奇怪的话，只是在足够的时候，他们会帮忙。
对于普通用户或附近不使用人工智能的观众来说，这样的故事提供了一种方法要么应对，要么只是享受关于人工智能的类似令人毛骨悚然的主流叙述：它会夺走每个人的工作；它必然会超越并主宰人类；它可能接近自我意识或感觉能力之类的东西；凭借这样的成就，它可以证明有关人类意识的最冷酷的唯物主义理论。
生成式人工智能的兴起使这些故事脱颖而出，但相关的焦虑早在现代大语言模型到来之前就已经存在了。在一个多世纪前的推理小说和科幻小说中，机器意识的前景提供了一条表达对从进化到工业化再到政府暴政等一切事物的焦虑的途径。在计算机时代，有关人工智能的故事变得不再那么具有象征意义，随着生成式人工智能的到来，数百万人可以使用工具，这些工具既接受过这种推测性历史的训练，又能够表演角色并模仿叙事风格。人们喜欢互相讲述有关机器智能的故事，而 ChatGPT 是一个擅长讲述自身故事的工具：讨人喜欢、令人毛骨悚然、熟悉，在某些情况下三者兼而有之。
生成式人工智能广泛应用的时间相对较短，关于人格闪光的故事在流行文化中蓬勃发展，尤其是在社交媒体上，认真记录的惊喜和故意上演的遭遇混合成一种新的病毒民间传说。（换句话说，它们是很好的参与诱饵。）它们往往与新的人工智能模型同时出现，尤其是与人工智能模型交互的新界面，这既使技术可用，又模糊了它的工作原理。第一波聊天机器人提供了与乐于助人的助理角色进行通信的机会，该助理角色会或可能被说服偶尔在文本线程中失控，而早期的图像生成器提供了一种奇怪而新颖的体验，能够从其中召唤不可预测的图像。”令人印象深刻但众所周知的人工智能功能围绕源文本综合讨论的能力，例如，像 NotebookLM 所做的那样，通过新界面再次变得新颖和令人震惊，即具有随意、情感和令人信服的声音的软件，与人进行对话其自身的另一个版本。随着人工智能视频生成变得更加广泛，我们可以期待更多这样的故事。普通的 ChatGPT 用户可能已经把他们那令人毛骨悚然的聊天机器人伴侣视为理所当然，把它当作一个新的谷歌，但至少在一段时间内，在视频中与它交谈，与真实渲染的机器人进行眼神交流肯定会令人不安。人脸在某些情况下可以做出像真人一样的反应。
人工智能鬼故事的一个特点是它不会特别老化，因为计算机拟人化的每一个新步骤的新颖性都会逐渐消失，消失在背景中，或者开始感觉不诚实、下流，或者，由于缺乏更好的术语，Clippy-ish。事后看来，上面列出的例子似乎很古怪、天真或有趣（这就是一些例子在事情失控之前的初衷）。虽然我们绝望的人工智能播客主持人在那些对人工智能模糊但真正感到害怕的人中发现了短暂而轻微的病毒式名声，但按照两年前的标准，他们的故事确实是一个令人震惊的人工智能创造，更不用说五个没有突破的方式了人工智能的好奇心稍早一些。
人工智能的发展正在快速发展，但它的发展却受到用户关于它如何工作（如软件）、它是什么（一种工具）以及它的用途（自动化）的直觉的影响。越来越多的工作任务、搜索式的询问和解释，以及偶尔共同创作关于未来的可怕的书信故事）。这样的故事仍在传播，但它们已经不再主导人工智能的讨论，尽管实际上有数以千万计的人正在接触比几年前吓坏人们的模型更强大的模型。（从这个意义上说，也许外星人的遭遇提供了另一个有用的比较。现在每个人都有智能手机摄像头，那么成千上万张低空飞行的不明飞行物的照片都在哪里？）
同样，在人工智能开发中，注意力已经很大程度上摆脱了关于暂时无法解释的突破的诱人和暗示性的故事。同样，关于人工智能模型的新兴特性的怪异理论，即难以在训练数据中解释的意想不到的能力，事后看来，往往会被证明是海市蜃楼。相反，领先的人工智能研究人员和科技公司现在正在宣传推理等方面的重大但不那么令人回味的进步，而不是近似的认知或感觉，重点从人工智能感知（电影和世界末日的可怕）转向人工智能智慧（仅在经济、社会方面），并且在文化上令人恐惧）。这是从消除到自动化的叙事降级。或者也许是从一种基于恐惧的营销策略转向另一种策略。
下一波人工智能鬼故事将触及一些关于邪恶的流氓智力或压抑、渴望的自我意识的相同基调，但我预计他们会越来越多地讲述一个不同类型的恐怖故事（无论它是否完全正确）：我想我刚刚遇到了一台可以完成我或你的工作的计算机。