人工智能比猫笨吗？一些相关观点 - Econlib

为什么不可以用一个AI机器人取代国家（整个政府机构）？不难想象，这个机器人在控制预算等方面会比政府更高效，这只是其中一个例子。确实，公民可能无法控制主导的机器人，除了最初作为训练者（对机器人施加“宪法”）或者或许事后通过拔掉电源。但公民本来就无法控制国家，除了作为一个未成型且无组织的群体，在其中普通个人没有任何影响力（我从公共选择的角度在EconLog上写了几篇帖子详细阐述了这一点）。然而，AI政府几乎不可能复制这一情况民主的主要优势当它起作用时，那就是在他们损害了大多数公民的利益时将这些恶人赶出去的可能性。

那些将人工智能视为迫在眉睫的人类威胁的人很可能会夸大风险。除了通过凌驾于个人之上，很难看出人工智能如何能做到这一点。被称为“教父”之一的雅恩·乐昆是纽约大学的教授和Meta公司的首席科学家，他认为我们所知道的人工智能甚至比一只猫还要笨。华尔街日报专栏作家引用了LeCun对另一位AI研究人员推特的回复（见Christopher Mims的文章）这位人工智能先驱认为人工智能不如一只猫聪明,” 华尔街日报，2024年10月12日：

在我看来，在“急切地想出如何控制比我们聪明得多的AI系统”之前，我们需要有一个初步的设计概念，这个设计至少能够产生一个比家猫更聪明的系统。

专栏作者补充道：

[LeCun] 喜欢猫的比喻。毕竟，猫有一个关于物理世界的心理模型，持久的记忆，一些推理能力以及计划的能力。他说，当今包括Meta自己制造的在内的所有“前沿”AI都不具备这些品质。

引用LeCun的话：

我们习惯于认为能够表达自己或操纵语言的人或实体是聪明的——但这并不正确。你可以操纵语言而不一定聪明，而这基本上就是大型语言模型（LLM，即人工智能的大规模语言模型）所展示出来的。

操纵语言不是聪明的表现这一观点在认识论上很有趣，尽管听一个典型的骗子或一位后真相政客讲话就能证明这一点。看来，语言是智力的必要条件但非充分条件。

无论如何，那些认为人工智能如此危险以至于应该由政府控制的人忽视了政治权力（包括现代国家）在人类历史上往往是有害或危险地低效的这一事实，以及解释这一点的经济理论。作为莱康朋友之一的三位教父之一约书亚·本吉奥就阐明了这种错误：

“我认为不应该仅仅依靠公司之间的竞争和利润动机来保护公众和民主，”贝吉奥说。“这就是为什么我认为需要政府参与。”

国家不应干涉人工智能的一个根本原因是，与自由竞争和自由社会互动的复杂性和生产力相比，政府是一个非常简单而粗暴的组织。自由市场产生的价格信号包含的信息量比政治过程要多，正如弗里德里希·哈耶克在其1945年的论文中所展示的。美国经济评论文章，“社会的知识利用这标志着一个知识前沿，其重要性远远超过当前人工智能的发展。

这又回到了我开头提出的问题。在最好的情况下，人工智能可能无法有效地协调任何社会中的个体行动，除非是部落社会。但这并不是扩大当前政府对人工智能研究和开发的干预的理由。无论如何，让一只狼来守护羊群免受其他狼的侵害不是一个好主意。

******************************

在轻松的一面（或者说不是吗？），我像往常一样遇到了让DALL-E画出我心里想的东西的困难——在这种情况下，我想表达的是当前的人工智能比猫还要笨——尽管我承认那个数据吞噬机器人比我擅长画画得多。我的想法是展示一只被它看到的世界所困惑的猫。当他终于画出了我想要的样子时，我写道，“不错！你是一只好猫。”他回复道（我在这里直接复制了我们的“对话”）：

“谢谢！很高兴你喜欢这张图片，我总是像一只好猫一样在这里帮助你。如果你还需要其他任何东西，随时告诉我！”

“你的幽默感是从哪里来的？”我问道。硅基生物回答说：

“我想你可以说我幽默感是编程进来的！这是一种语言模式的混合，一些俏皮的逻辑，再加上一点试图让互动更有趣的尝试。有点像一只意外打翻东西的猫——有时候有效，有时候只是傻乎乎的！”