科学家如何尝试使用AI解锁人类思想

如今，S AI景观由神经网络与人类大脑不同的方式定义。一个蹒跚学步的人学会了如何每天只用一千卡路里的卡路里和定期对话进行有效沟通；同时，科技公司是重新开放核电站，，，，污染边缘化的社区， 和盗版书籍为了训练和运行他们的LLM。

但是毕竟，神经网络是神经他们受到大脑的启发。尽管对能源和数据的食欲却大不相同，但大型语言模型和人类大脑确实有很多共同点。它们都由数百万个子组件组成：在大脑的情况下，在网络的情况下模拟了神经元。他们是地球上仅有的两件事可以流利而灵活地产生语言。科学家几乎不了解他们中的任何一个的运作方式。

我可以证明这些相似之处：我通过六年的神经科学研究生院来到新闻和人工智能。神经科学家之间的一种普遍观点是，建立头脑般的神经网络是该领域最有前途的途径之一，这种态度已经开始传播到心理学。上周，著名的日记自然发表了两项研究，展示了神经网络在心理实验中的使用方式来预测人类和其他动物的行为。两项研究都建议这些训练有素的网络可以帮助科学家提高对人类思想的理解。但是，预测行为并解释它是如何发生的。

在其中一项研究，研究人员将大型语言模型转变为他们所说的人类认知基础模型。开箱即用，大型语言模型在模仿人类的行为方面很棒 - 它们在人类放弃诸如赌场等理性的环境中行为逻辑。因此，研究人员微调的Llama 3.1（Meta的开源LLMS之一）是从160个心理学实验的数据上进行的，其中涉及任务，例如从一组Slot机器中选择的任务，以获得最大的付费或记住字母的序列。他们称之为由此产生的模型半人马座。

与使用简单数学方程式的常规心理模型相比，半人马在预测行为方面做得更好。对人类在心理学实验中的反应的准确预测本身就是有价值的：例如，科学家可以在招募和付费人类参与者之前使用Centaur在计算机上进行实验。然而，在他们的论文中，研究人员提出，半人马不仅是预测机。他们认为，通过审问使Centaur有效复制人类行为的机制，科学家可以开发有关思想内在运作的新理论。

但是一些心理学家怀疑半人马是否能告诉我们很多有关思想的信息。当然，它比传统的心理模型更好地预测了人类的行为方式，但它的参数也增加了十亿倍。仅仅因为一个模型在外面的行为就像人类的表现并不意味着它在内部的功能。荷兰Radboud大学计算认知科学助理教授Olivia Guest将Centaur与计算器进行了比较，该计算器可以有效地预测数学WHIZ将会给出的响应时，当被要求添加两个数字时。她说，我不知道您会通过研究计算器来了解人类的增加。”

即使半人马座确实捕捉到了有关人类心理学的重要内容，科学家也可能难以从模型数百万神经元中提取任何见解。尽管AI研究人员正在努力弄清楚大型语言模型的工作方式，但他们几乎无法打开黑匣子。了解人类思想的巨大神经网络模型可能不会比理解事物本身容易得多。

一种替代方法是小。这两者中的第二自然研究专注于微小的神经网络，其中一些仅包含一个单个神经元，但可以预测小鼠，大鼠，猴子甚至人类的行为。由于网络是如此之小，因此可以跟踪每个单个神经元的活动，并使用该数据来找出网络如何产生其行为预测。尽管不能保证这些模型像被训练的大脑一样，但至少可以产生有关人和动物认知的可检验的假设。

可理解的成本。与在数十个不同任务中模仿人类行为的Centaur不同，每个小型网络只能预测一个特定任务中的行为。例如，一个网络专门用于预测人们如何在不同的老虎机之间进行选择。``如果这种行为确实很复杂，您需要一个大型网络，”纽约大学心理学和神经科学助理教授马塞洛·马塔尔（Marcelo Mattar）领导了小型网络研究，也为半人马座做出了贡献。当然，妥协的是，现在理解它非常非常困难。

预测与理解之间的权衡是神经网络驱动的科学的关键特征。（我也恰好是写一本关于它的书。）像Mattar这样的研究正在像他的网络一样缩小差距，比传统的心理模型更准确地预测行为。在人类之类的地方，对LLM解释性的研究也是如此。但是，就目前而言，我们对从人类到气候系统再到蛋白质的复杂系统的理解远远落后于我们对它们做出预测的能力。

这个故事最初出现在我们的AI周刊《算法》中。首先在收件箱中获取这样的故事， 在这里注册。