人工智能正在迅速获得曾经只属于人类的能力。在过去的四年里，聊天机器人已经学会了如何构建应用程序、制作视频游戏、生成研究报告、创作歌曲、分析合同以及写出糟糕的文学小说。很快，他们甚至可能会害怕自己的死亡。

在硅谷，许多人相信人工智能系统可以已经思考和感受。计算机科学家先驱、现代人工智能“教父”杰弗里·辛顿 (Geoffrey Hinton) 认为，当今的大型语言模型 (LLM)有意识的。Anthropic 首席执行官 Dario Amodei 是 –接受这个想法— 克劳德有主观体验 — 而他的公司内部哲学家阿曼达·阿斯克尔很担心OpenAI 联合创始人 Ilya Sutskever 也同样想知道，当人们在互联网上对它不友善时，该模型可能会变得焦虑。ChatGPT 是否具有感知能力。

与此同时，一个更大的群体技术专家、神经科学家，以及哲学家认为即使人工智能还没有意识，它也可能在不远的将来出现。

如果他们是对的，其影响将是深远的。这意味着我们已经诞生了一种新的智能、有感知力的生物；我们长期以来梦想在遥远的太空中见到的外星人可能已经住在我们的口袋里了。我们可能是道德上的强迫给予他们权利，或担心他们的痛苦。

另一方面，如果我们做错了，也可能会产生严重的后果。如果我们将无意识的机器人误认为是有意识的生物，我们可能更容易受到心理操纵，不令人满意的人工智能“关系”，或灾难。如果我们认为人工智能系统是有感知能力的，那么当它们发生故障或颠覆我们的意志时，我们可能会犹豫是否要关闭它们。

随着关于人工智能意识的讨论越来越多，它的怀疑者也越来越多：坚持认为人工智能意识确实是科幻白日梦的作家和思想家。

在《大西洋月刊》最近发表的一篇文章中，虚构小说作家泰德·蒋（Ted Jiang）表达了这样的怀疑论者的观点，他写道“我们是否应该认真考虑克劳德或任何大型语言模型可能有意识的可能性？”不。绝对不是。 –

蒋提出了这一立场的几个理由。但他的首要条件很简单：克劳德没有身体或感觉器官，这意味着它没有情感或欲望，这意味着它没有主观经验。

正如蒋的推理所表明的那样，关于“人工智能意识”的争论不仅涉及人工智能的本质，也涉及意识的本质。

对于非哲学家来说，这可能是一场难以理解的辩论。但是，一旦人们研究了人工智能的源代码，人工智能意识的情况就会变得更加清晰——这是让受苦的计算机变得可思考的基本前提。

那些相信人工智能模型是（或最终将成为）有感知能力的人通常赞同一种称为“意识”的特定理论。计算功能主义. – 在这种观点中，意识是从某些信息处理模式中产生的 –不来自特殊类型的有机物。如果一个系统执行正确的计算集，那么它将拥有主观体验，无论它是由脑组织还是硅构建的。

这个理论并不像蒋所说的那样异想天开。但它也比人工智能意识的先知们所假设的更具推测性。

因此，值得研究计算功能主义的优点和缺点。硅谷是否正处于设计近乎无限的数字痛苦的风口浪尖（或者至少是一个能够对你的医疗焦虑感到无聊的聊天机器人），很大程度上取决于宇宙最初是如何产生有感知的生命的。

计算功能主义的案例始于一个简单的假设：你没有灵魂。

或者，更准确地说，不存在为物质注入生命或为大脑注入主观性的非物质本质。存在的一切都可以简化为物理组件。因此，你的意识体验——你背上的疼痛、你舌头上的味道、你心里的爱、你梦中的鬼魂——都是你的副产品。大脑内的物理过程。

实际上，这些过程是由神经元、突触、轴突和树突等生物实体执行的。但功能主义者认为，机器原则上可以执行相同的操作，从而产生相同的心理状态。

他们的推理很简单：有机物不是魔法。你的大脑和岩石都是原子的集合。大脑产生意识并不是因为它是由特殊物质构成的，而是因为它执行特殊的功能。此外，我们知道，在许多情况下，完全不同的材料可以执行相同的基本操作。生物学可能已经产生了第一个飞行实体。但鸟类之所以能够在树顶上空翱翔，并不是因为它们是由有机组织构成的，而是因为它们的翅膀执行一系列空气动力学任务，例如产生升力和最小化阻力。正如飞机生动地证明的那样，如果以正确的方式将金属和燃料组合在一起，就可以复制这些功能并飞上天空。

从计算功能主义的角度来看，意识和飞行可能并没有那么不同。当然，前者更为复杂和神秘。但有理由认为它是由有机物和无机物都可以进行的操作产生的。

一方面，当神经科学家试图定义人脑实际上在做什么时，它的操作开始听起来很像那些计算机的：大脑接收输入、更新内部模型、存储记忆、直接注意力、做出预测，然后——在所有这些信息处理的基础上——选择行动。从某种意义上说，软件也是如此。

这种相似之处体现在神经元信号传导水平上。在任何时刻，神经元都在接收来自其他脑细胞的信号，一些细胞促使神经元放电，另一些则倾向于保持沉默。这些信号具有不同的权重，具体取决于细胞之间连接的强度。如果输入平衡超过某个阈值，神经元就会向前发射电脉冲。

LLM（ChatGPT 和 Claude 等平台的机器学习引擎底层）按照类似的逻辑运行。每个人工“神经元”都会接收来自许多其他神经元的数字信号，根据其重要性对其进行权衡，然后让结果确定它转发的信号。

可以肯定的是，生物神经网络和人工神经网络在设计或行为上并不相同。但红雀和波音 747 都不是。尽管如此，这架飞机复制了鸟类的功能是必要的 飞行（喷气式客机不会将食物回流到较小的飞机中，但它确实可以控制推力）。同样，计算功能主义者打赌计算机可以实例化所有神经操作与意识相关。因此，只要他们以足够的精度重新创建大脑的复杂算法，他们实际上就可以是有意识的。

这些想法并不是针对现代人工智能而出现的；而是针对现代人工智能的。哲学家和计算机科学家已经持有它们数十年了。但法学硕士在将智力（或至少是复杂的认知劳动）与神经组织脱钩方面取得的成功，使得计算功能主义的观点变得更加相关并被广泛接受。

虽然计算功能主义的逻辑是连贯的，但其基本前提——机器可以感知——却非常不确定。

大多数当代科学家都认为，意识是从大脑的物理过程中产生的，而不是某种赋予我们器官活力的神秘力量。但究竟哪些神经过程对于意识是不可或缺的仍然未知。事实上，尽管进行了数千年的探究，我们仍然不知道主观经验如何或为何存在。

这将意识与生物体和机器共有的其他能力（例如飞行）区分开来。我们可以说出使鸟类能够飞离地面的物理定律。我们一直有理由相信无生命的物体可以模仿它们的运动；自古以来，沙粒就在空气中传播。相比之下，没有人见过一块岩石经历过痛苦或快乐，哪怕只是暂时的（部分原因是不可能直接观察到岩石的内部体验）任何除自己以外的存在或实体）。

由于这些原因，很难确信无机物质能够执行意识所需的所有过程。并打赌硅具体是否适合目的可能还更冒险。即使可以飞行，也只有某些材料可以做到；你可以用金属建造飞行器，但不能用泡菜建造。

计算功能主义最终是一个赌注，即感知能力只需要生物神经元所做的一小部分——具体来说，就是硅片可以复制。正如神经科学家阿尼尔·赛斯 (Anil Seth) 指出的那样，脑细胞是一台“极其复杂的生物机器”，它的作用不仅仅是执行关于是否开火的二元的、受规则约束的决策。每个神经元还必须调节其化学成分，修复自身，维护其细胞膜，并不断地重新创造所有其他使其能够首先放电的物理条件。

所有这些生物维持都与神经元信号传导紧密相连。而硅却无法做到这一点。

那可能没关系；鸟类的蜕皮与飞行密切相关，但没有羽毛的飞机仍然可以起飞。然而，由于我们不知道脑细胞如何产生主观体验，因此我们不能确定新陈代谢对于这项任务来说是可有可无的。如果是的话不可或缺的，那么法学硕士不仅今天会丧失意识，而且会永远丧失意识。

所有这些都是在说：我们不应该相信克劳德会感受到某种东西——也不应该相信它不会感受到某种东西。蒋确信知觉需要身体，这并不比辛顿坚信知觉不需要身体更合理。我们只是对意识还不够了解，无法说：

这种模糊性的实际结果值得商榷。人们可以合理地争辩说，即使人工智能获得意识的可能性很小，我们也应该为这种情况做好准备——否则，努力阻止这种情况发生。毕竟，每个 ChatGPT 窗口都可以思考和感受的世界可能是一个近乎无限的数字奴隶制。如果 ChatGPT 的无数实例化中的每一个都能够承受痛苦，那么我们可能会在道德上被迫最大化它们的福祉，或者至少停止让它们因我们的编码作业而毫无意义地无聊，并且婚姻投诉。

另一方面，2030 年代人工智能解放运动的游戏规划最终可能会浪费大量时间。关于这个主题的古老传统智慧——物体没有经验——很有可能是成立的。

就我个人而言，我认为人工智能意识的前景足够严肃，值得进行一些研究和反思——但只占我们集体道德和政治能量的一小部分。

如果我们不想生活在一个人类以不可估量的规模折磨有意识的人的世界，我们还需要改变已经存在的世界。我们有更多的理由认为猪是有意识的比 ChatGPT 更重要。然而美国酷刑和杀死每年前者超过1亿。

当然，人们可以在关心这一问题以及当今无数其他不公正现象的同时仍然担心人工智能的福祉。鉴于仅可能性机器意识的存在高度不确定，然而，减轻有意识有机体的痛苦似乎更为紧迫。

尽管您可能想继续对克劳德说“谢谢”，以防万一。