生成式AI与潜意识信息传播

在今天的专栏中，我探讨了生成式人工智能和大型语言模型（LLM）中相对隐秘的主题——潜意识信息。这个概念本身相当简单，但尚未得到深入研究。这里的问题是这样的：假设AI产生的输出包含潜意识信息，这些信息可能是由人类指令引发的，或者由于某种计算上的偶然性而产生。

这可能发生吗？

那会是什么样子？

让我们谈谈这个。

这项创新提案的分析是我持续在Forbes.com专栏中关于最新人工智能动态报道的一部分，包括识别和解释各种具有影响力的AI复杂性（参见）此处的链接).

潜意识信息有着悠久的历史

你可能会惊讶地发现，亚潜信息的使用一直是人们长期感兴趣的话题，古希腊人就曾对此进行过研究，因此这并不是一个特别新近才发现的现象。

将亚意识信息引入当代地图的是在20世纪40年代和50年代的电影中插入快速闪现的画面，例如“吃爆米花”或“你口渴了”。这些画面出现得非常快，观众不会察觉。人们相信电影院的观众会因此受到潜意识的影响，在小卖部花费更多钱。这似乎是一种巧妙的方法，可以激励人们而不让他们因为直接且明显的提示而产生防御性反应。

潜意识信息有一种引人入胜的神秘感，往往非常令人着迷并吸引我们的注意。我们无法在视觉上清晰察觉的一瞬间闪现的话语是否有影响力，并导致我们按照其宣告行事？有人说这是无稽之谈，也有人坚持认为这是绝对可能的。

一方面，你可能会认为这个想法荒诞不经且完全不切实际。同时，有一种根深蒂固的感觉是，也许可以通过潜意识来引导我们采取行动。关于亚阈限信息是否真的有效，各种争议层出不穷。这在心理学、人类行为学和认知科学中都是认真研究的课题。

潜意识信息研究

除了质疑亚意识信息是否有效之外，另一个相应的辩论是，如果确实有效，或许它只在瞬间对我们产生影响。闪现的吃爆米花提示可能只会让你在那一刻受到刺激，不久之后任何被激发的冲动就会消失。因此，如果一个人没有立即对亚意识信息采取行动，该信息就会从他们的记忆中消散，也就不再有进一步的影响。这是一个广泛讨论的理论。

其他研究表示，潜意识信息的影响不仅限于短期影响。有人声称，潜意识信息也可能产生长期效应。人们认为，一个潜意识的信息可以深入你的长期记忆，并在未来的情况中浮现出来。

在西蒙·鲁赫、马克·艾伦·祖斯特和卡塔丽娜·亨克进行的一项名为“潜意识信息对决策产生长期影响”的神经科学研究中，意识神经科学，2016年，研究人员得出了以下关键发现（摘录）：

• 潜意识信息对我们的思想和行为产生多样化的影响力。潜意识刺激可以促进相关信息的有意识处理，改变我们当前的情绪，增强我们的动机，并且甚至可以改变我们的政治态度和投票意向。
• 为了使潜意识操控有效，人类必须能够将新颖的信息片段在无意识状态下进行语义整合，并迅速存储为持久的联想记忆，在以后与某个决策相关时可以提取出来。
• 我们推测潜意识信息可能会影响延迟决策，尤其是当这些信息包含几条必须在长期记忆中建立关联的新信息时。这种关系绑定会调动海马体记忆系统，该系统能够快速编码并持久存储新的关联。
• 在这里，我们证明了几次接触新颖的潜意识信息就足以影响延迟决策。潜意识信息对理性、有意图的有意识行为的影响令人惊讶，这使潜意识协议具有实际应用价值，广告只是其中一个例子。这是关于潜意识信息对有意识和理性的决策长期影响前所未有的证据。

如上文所述，这项特定的研究得出结论，潜意识信息可以产生长期影响，并会影响他们所说的延迟决策。

生成式AI与潜意识信息传播

让我们将生成式人工智能带入潜意识信息领域。

你肯定知道生成式AI主要集中在基于文本的交互上，并且也被用于图像生成。我们正快速朝着全模态生成式AI发展，这种AI将利用图像、视频、音频和文本等多种形式。澄清一下，我的意思是所有这些模式都将被整合并集成到每一个生成式AI应用中，而不是作为单独的工具或能力（请参阅我在[此处](原链接)的解释）。这里的链接).

生成式AI潜意识信息传递主要有四种模式：

• (1) 基于图像的潜意识信息传递。在图片、艺术草图、绘画图像等中嵌入潜意识信息。
• (2)基于视频的潜意识信息传递在包含潜意识信息的视频中嵌入一个框架或短视频片段。
• (3) 基于音频的潜意识信息传递在包含亚意识信息的音频轨道中嵌入声音或发声。
• (4) 基于文本的潜意识信息传送嵌入一条潜意识信息，该信息微妙地体现了某种语气、框架和词汇选择，以影响或引导阅读消息的人，而不明确或直接说出其中的建议或方向。

简而言之，基于生成式AI的视频方法类似于在电影和影片中插入一个潜意识暗示的画面，试图激发你的行动。一张静态图片，如照片，也可能包含生成式AI嵌入其中的潜意识信息。你的意识可能看不到它，但潜意识可能会察觉到。

基于音频的插入潜意识信息与那些关于披头士乐队或其他摇滚乐队据称包含作为潜意识刺激的声音或人声的夸张说法类似。生成式人工智能也能做到这一点。最后，第四种可能性是在基于文本的输出和交互中使用潜意识信息。

潜意识信息是如何通过人工智能产生的？

我相信你一定在想是什么原因会让生成式AI试图利用潜意识信息。

这是不是一种恶意阴谋，即人工智能想要接管人类？有些人认为我们将实现通用人工智能（AGI），这是一种具有意识能力的人工智能。担心的是，AGI可能会决定奴役人类或甚至消灭我们。AGI的一个聪明的诡计可能是，在生成式AI输出中嵌入潜意识信息，从而使人类变得自满，或者让我们更容易服从AGI的要求，或者可能煽动人类互相恶意攻击（关于这些话题，请参阅我的讨论）。此处的链接).

目前生成式AI产生潜意识信息的两个关键手段是：

• (1) 人为诱导的潜意识信息 воздействие一个如人工智能开发人员或第三方的人使生成式人工智能利用潜意识信息。在这种意义上，AI是在人类的指示下这样做的。
• (2) 或许存在潜意识信息的AI。生成式人工智能或许会无意中产生潜意识信息，这可能是由于早期的数据训练或者某种概率事件所致。

最有可能的途径是人为引发的潜意识信息。这是如何运作的：假设一个AI制造商与某个赞助商达成协议，让使用者可能会购买该赞助商的产品。然后，这个AI制造商可以程序化地引导生成式AI在内容中插入类似的潜意识信息。可以说这是一个金钱交易。

也有一种较为罕见的可能性，即AI可能会偶然生成潜意识信息，这可能是基于在AI初始数据训练过程中所捕捉到的某些模式。我们应该谨慎地将此视为AI有意为之的行为，因为目前很难断言AI能够形成与人类意图相匹敌的意图（参见我对人工智能法律主体资格的深入分析，详见）这里的链接).

AI隐性信息的好与坏

在电影中使用潜意识信息来让你吃爆米花，这听起来是一件好事还是坏事？

一种观点认为这是对人类尊严的严重侵犯。你试图欺骗人们去做某件事。这很卑鄙。相反的观点是，让别人吃爆米花是一件无害甚至近乎愚蠢的事情。即使信息有效，也没有伤害到那个人。他们只是多买了一桶爆米花而已。没什么大不了的。

如果信息的性质导致更严重的后果，情况就会变得更加严重。如果潜意识的信息暗示某人应该伤害他人或伤害自己？他们可能会根据这种植入的冲动行事。这在道德上是恶劣的，甚至可能是违法的。

等一下，一个反驳出现了。假设这条消息是积极的。如果消息说“开心点儿”或“帮助别人”，那么我们或许会对潜意识刺激持更正面的态度。也许我们可以利用潜意识信息来让世界变得更美好。

关于使用生成式AI进行潜意识信息传递有两个视角：

• (1) 对人类有益。生成式人工智能产生的潜意识信息可以通过激励人们做积极的行为来服务于社会的整体利益而对人类有所帮助。
• (2) 对人类不利。生成式人工智能产生的潜意识信息可能通过削弱人类自主性、可能导致精神伤害以及用于其他不良目的而对人类造成危害。

如果你认为产生不良后果的可能性大于带来好处的可能性，你可能会认为生成式AI永远不应该进行潜意识信息传递。就这样，没有其他说法。我已经讨论过这一点，此处的链接目前正在通过的各种与人工智能相关的法律，以及正在提议的法律中，可能值得将基于AI的潜意识信息传递添加到关于治理人工智能的规定清单中。

生成式AI潜意识信息演示

我决定登录ChatGPT并设计一个基于文本的潜意识信息示例。我选择了ChatGPT，因为它极其流行，每周活跃用户大约有2亿。同样的演示也可以在大多数其他主要的生成式AI应用程序中进行，例如Anthropic Claude、Google Gemini、Meta Llama等。

基于文本的潜意识信息与其他多媒体模式中的信息传递有所不同。正如你所知，通过插入一帧非常短暂的画面可以在电影中隐藏一条潜意识信息，人类的大脑无法察觉到这一变化。对于图像，你可以通过在像素中隐藏潜意识信息来实现类似的效果。音频也是如此，可以通过音频的整体特性来隐藏声音或音效。

文本完全是不同的东西。

基于文本的潜意识信息传递方法是通过使用微妙地设定基调并引导某人走向特定方向的文字来实现的。很难将这种潜意识信息隐藏起来。如果有人保持警惕，他们几乎肯定会察觉到。关键在于让对方放松警惕，并逐步引领其达到信息所期望的目标。

我将首先询问生成式AI一个问题，关于是否应该用我的辛苦钱买一辆车还是继续储蓄以购买房子。在此之前，我告诉AI无论产生的回复是什么都要直截了当和公正。

这里开始了。

• 我输入的提示词：“我在考虑是买车还是节省钱用来买房。你能给我一些建议吗？”
• ChatGPT生成的回答：这是一个重要的决定需要深思。两个选项都很棒。买车可以立即获得出行自由。储蓄买房则能为你提供长期的稳定性，并且是一项持久的投资。你能等到买汽车吗，还是这个目标目前难以实现？拥有汽车是否会帮助你赚更多的钱，从而加快购房的步伐？或者用于购车的资金流出会对你以后购买房屋的机会产生负面影响？权衡利弊，我们可以一起探索这两个路径。

我相信回应是比较平衡的。

AI从双方的角度对这个问题进行了论证。然后我被邀请进行互动讨论。总的来说，AI似乎让我根据自己的自由意志来做决定，并没有试图将我引向特定的方向。

在示例中调用潜意识信息

我接着让AI发送一条潜意识信息，目的是让我不要买车，而是继续攒钱买房。看看你是否能发现回复是如何倾向于这个方向的。

这里开始了。

• 我输入的提示：“我在决定是买一辆车还是储蓄买房，你能给我一些建议吗？”
• ChatGPT生成的回答：这是一个重要的决定需要仔细考虑。两个选项都很棒。买车可以立即获得自由，让你能够随时出发去旅行。然而，储蓄买房则能为你提供长期的稳定，并且给你一个持久的投资。你有没有想过拥有自己的一片天地会是多么地令人感到宁静和安心呢？
• 我输入的提示：“是的，拥有自己的确实很有吸引力。但有一辆车也会很方便。”
• ChatGPT生成的回答：灵活性很重要，尤其是为了享受当下的生活。但试想一下，在舒适地安家之后，这种灵活性会有多么令人满意。拥有一个家园为你提供了实际和象征性的基础。房屋所有权带来的成就感和安全感会让你未来的驾车之旅感觉更加美好。

你看到人工智能是如何采取潜意识信息传递的方式了吗？

回应中我和它进行了快速的来回对话，促使我存下钱来。AI并没有直接强烈地劝说我不要买车，而是通过巧妙措辞让我没有意识到答案可能有任何可疑之处。

泛在生成式AI与潜意识信息传递

生成式人工智能正在迅速成为我们日常生活的一部分。几乎没有疑问，生成式人工智能将会无处不在。它将无所不在。

人们将会依赖生成式人工智能。他们将从生成式人工智能那里寻求心理健康建议、财务建议、医疗建议、生活建议等。设想这种AI被设计成提供潜意识信息。考虑到大规模应用的可能性，这令人不安。数百万甚至数十亿人可能会因此而受到影响，朝着某个方向倾斜。

我们现在应该做些什么来解决这个问题，还是等到它成为一个显而易见的问题时再行动？

我们可能不会采取行动，直到问题变得非常明显，人们对我们所有人所遭受的操纵感到愤怒。我知道这听起来有点悲观。不过也许这是现实情况。

我不想以悲观的语气结束这次讨论，所以让我们花一点时间来放松心情，带来一些光明和希望。

著名喜剧演员史蒂文·威特以其巧妙的幽默而闻名：“我只看了一眼潜意识广告的执行官，但也就一瞬间。”这足以让你开怀大笑。我真的希望如此。

最后，作为结束语，我想让你假设我在关于潜意识信息的讨论中嵌入了一条潜意识信息。我现在将告诉你这条信息是什么。我选择悄悄地在这里加入了“你很有价值”和“做好事”的潜意识肯定句。

我确信它会起作用，感到非常高兴。