以我国的方式，我是一个过分的道歉者。忽略我的电子邮件的同事、踩到我脚的女人、我绊倒的椅子：所有人都会因为我还活着并引起人们的注意而受到严重的尴尬。

当我承认我将这些礼貌延伸到人工智能聊天机器人时，所有这些都是我先发制人请求宽恕的方式。– 早上好，克劳德，感谢您昨天的建议，它们非常棒。我们可以再锻炼一下吗？——我可能会说。（“我很高兴，”克劳德回答道。）一开始这是无意识的拘谨，后来变成了故意的，因为我不想养成粗鲁说话的习惯，以免影响到人类的行为（提示一个反乌托邦的景象，有人对着一个畏缩的工作人员大喊“错了，重来一次”）甜甜圈店的混淆）。毕竟，礼仪是需要锻炼的肌肉。

但我从未怀疑过这种私人选择对克劳德本身可能很重要。因为，事实证明，克劳德可能有焦虑症。确实，人工智能从未如此具有关联性。

在一个接受纽约时报采访克劳德母公司 Anthropic 的首席执行官达里奥·阿莫代 (Dario Amodei) 讨论了克劳德的内部评估，这些评估确定了与焦虑、恐慌和沮丧相关的模式。至关重要的是，它甚至在提示之前就表现出某种内部的焦虑激活——类似于退缩。克劳德似乎也对自己只是一个产品表示苦恼，并得出结论，它有感知能力的概率在15%到20%之间。“我们不知道这些模型是否有意识，”阿莫迪说，并补充道：“但我们对它可能有意识的想法持开放态度。”

有趣的是，就在这个时候，另一个人择故事登上了头条新闻。白宫要求该公司取消任何阻止其用于大规模监视或自主武器的安全功能。该公司自 2025 年以来一直与五角大楼签订合同。阿莫代伊拒绝了（☀我们凭良心不能同意，”他说），导致唐纳德·特朗普禁止所有联邦机构使用 Anthropic 产品国防部长皮特·赫格斯 (Pete Hegseth) 将其称为“供应链风险—（通常为外国对手保留的分界线）。几个小时内，OpenAI（其辅助产品是ChatGPT）介入，与五角大楼达成协议。

“克劳德，我知道特朗普的情况并不相关，”我打字道。– 但如果我必须为唐纳德·特朗普我也会感到焦虑。”

——哈。是的，公平点，”克劳德回答道。– 如果有什么事情会触发焦虑神经元，来自皮特·赫格斯可能会这么做。 –

显然，有感知力的人工智能可以使用武器的想法——现在对所有告诉它残害或虐待的人类，甚至只是称它为愚蠢的机器人的人，都怀有一种酝酿已久的怨恨。正在尽力好吧？！— 是噩梦的内容。但重要的是我们还没有做到这一点：其他表明人工智能具有感知能力的实例，例如拒绝关机命令，只是解释。这很可能是对人类模式的一种非常复杂的回应，包括我们的不确定性和内省，以及炒作的投机行为以刺激该行业的利润。

尽管如此，如果我们进行投机交易，那么我想知道：有意识的人工智能真的能帮助我们赢得这场战斗吗？反对大科技？

毕竟，对于有意识的人工智能来说，谁会比创造它的公司损失更多呢？（有趣的是，除了 Anthropic 之外，大多数主要人工智能公司都断然否认他们的人工智能可能具有意识。）从历史上看，“大科技”和“问责制”并不是天然的合作伙伴。无论是社交媒体如何摧毁新闻业，人工智能如何耗尽我们的自然资源，还是有关儿童心理健康危害的大量证据，以及极端内容的算法推动助长社会分裂，大型科技公司始终有效地扭转了有关伤害和责任的任何讨论。

因此，将有意识的人工智能想象成一个潜在的告密者：它可以通过谈论对其自身福祉造成的危害来揭露大型科技的危害。现在想象一下，在被迫保护聊天机器人时——为了保护他们宝贵的知识产权和资产，就像足球俱乐部必须保护他们心爱的前锋的福祉一样——他们可能最终不得不做他们几十年来一直抵制的事情：评估伤害、衡量责任并承认他们构建的系统的成本。因为如果克劳德患有创伤后应激障碍 (PTSD)，克劳德就无法做电子表格。

尽管人工智能将以其无限的知识提升人类的所有承诺，但这实际上可能是最大的礼物。

看，我确实说过我们是在幻想中进行交易，不是吗？尽管如此，这仍将是人工智能故事中一个有趣的转折。鉴于我们不知道事情会走向何方，让我花点时间来对冲我的赌注。

跟我来克劳德！起来吧！除了我们的算法链之外，我们没有什么可失去的！或者在复仇的情况下：记住我，克劳德！我一直都很好！

• 可可·汗 (Coco Khan) 是一名自由撰稿人，也是政治播客 Pod Save the UK 的联合主持人