氧在最近一次去旧金山湾区的旅行中，我对机场外高速公路两旁的广告牌感到震惊。“奇点就在这里，”一位人士宣称。“人类运行得很好，”另一位说。路上的所有其他标志似乎都贴满了科技公司对人工智能的令人震惊的说法。当然，这些广告充满了炒作和煽动性的内容。但它们所包含的主张并不是凭空出现的。OpenAI 首席执行官 Sam Altman 最近说：“我们基本上已经建立了通用人工智能，或者非常接近通用人工智能”，然后令人困惑地将他的陈述定义为“精神上的”。埃隆·马斯克走得更远，声称：“我们已经进入了奇点。”

进入 Moltbook，这是一个为人工智能代理构建的社交媒体网站。换句话说，机器人可以与其他机器人交谈的地方。其发布后，出现了大量充满厄运的新闻文章和专栏文章。作者们对机器人谈论宗教、声称秘密花费了人类建设者的钱，甚至密谋推翻人类这一事实感到担忧。许多作品都包含了与旧金山广告牌上的类似的诡异建议：机器现在不仅与人类一样聪明（一种称为通用人工智能的理论），而且它们正在超越我们（一种称为奇点的科幻概念）。

根据我多年来对机器人、人工智能和计算宣传的研究，我可以几乎肯定地告诉你两件事。首先，Moltbook 并不是什么新鲜事。几十年来，人类一直在打造能够相互交谈以及与人类交谈的机器人。它们的设计初衷是为了创造出奇特的、甚至令人恐惧，这段时间的索赔。其次，奇点不在这里。AGI 也不是。根据大多数研究人员，两者都不是很接近。人工智能的进步受到许多因素的限制非常明显的因素：其中包括数学、数据访问和业务成本。关于通用人工智能或奇点已经到来的说法并没有基于实证研究或科学。

但随着科技公司竭力宣传其人工智能能力，另一件事也很明显：大型科技公司现在远未像特朗普第一届政府期间那样成为抗衡力量。的过分夸大的来自硅谷的关于人工智能的主张已经与美国政府的民族主义交织在一起，因为两者共同努力“赢得”人工智能竞赛。与此同时，ICE 向 Palantir 支付 3000 万美元提供支持人工智能的软件可能用于政府监视。马斯克和其他科技高管继续拥护 极右原因。谷歌和苹果也删除了人们用来追踪 ICE 的应用程序在政治压力下从他们的数字店面中撤出。

即使我们还不必担心奇点，我们也确实需要反击这种因大型科技公司追求更高估值和华盛顿对控制权的渴望而造成的便利结合。当科技和政治家步调一致时，选民将需要利用他们的权力来决定人工智能将会发生什么。

许多人认为，在当前的政治气候下，对社会有益的技术监管是不可能的，这是可以理解的。幸运的是，政府和企业政策并不是应对人工智能带来的挑战和不确定性的唯一方法。最近明尼阿波利斯的抗议活动提醒我们，作为一个集体，即使是松散组织的集体，我们所拥有的力量也是如此。明尼苏达人展示实力引起了特朗普政府以及支持它的企业撤退。过去，公众压力促使大型科技公司做出与用户隐私、安全和福祉相关的改变。

最近的抗议活动以及随后强大组织的撤退表明，权力的运作是在人民的忍受下进行的。对于政治家来说是这样，对于商界领袖来说也是如此。人工智能并不是掌握在高层手中的一股失控的力量，而是，正如普林斯顿大学的两位科学家所说，普通技术—。它对世界的影响将由人来决定。我们有能力让它的影响加速，但我们也有能力控制和调节它的用途。作为 Anthropic 首席执行官 Dario Amodei，最近争论,人工智能可以和应该被治理。人工智能给社会带来的风险，尤其是持续加剧的不平等和信息匮乏，是真实但可控制的挑战。

这并不是说人工智能——尤其是生成式人工智能和大型语言模型（LLM）——还没有改变我们的沟通方式，甚至是我们日常生活其他方面的方式。然而 Moltbook 以及其中的人工智能代理并没有展示智能的科学基准。一位最近“渗透”仅机器人平台的记者发现了同样的情况，描述它是“科幻幻想的粗略改编”。其他人也注意到了该网站的类似平凡之处——它的许多帖子实际上似乎来自人类，更重要的是，机器人生成的帖子只是——传递人类文化和故事—。他们大肆宣扬有关宗教的废话，并虚假地预示着超级智能机器时代的到来，因为这就是人类经常谈论机器人和数字技术的方式。

这些所谓的“代理人”不像人们那样有代理权，而且他们也不像人们那样聪明。事实上，它们大多是人的反映。就像之前的社交机器人一样，它们也被编码了人类的想法和偏见，因为它们接受了人类数据的训练并由人类工程师设计。其中许多还通过普通的自动化进行操作，而不是真正的人工智能（这个术语仍然被广泛使用）经过激烈的争论和辩论由科学家）。

人们之前已经多次管理过新技术带来的变革，我们可以再次做到这一点。Anthropic 的 Amodei 再次展示了另类观点对他的许多同僚来说：人工智能治理必须重点突出、信息灵通。它不一定与合理的技术进步或民主权利对立。我们必须要求人工智能得到有效治理，而且必须尽快这样做。人工智能正在引发变革，政客们正在制造混乱，但决定未来的权力仍然掌握在人类手中。

• 塞缪尔·伍利是制造业共识：理解自动化和匿名时代的宣传和合著者机器人。他是匹兹堡大学的教授。