那年夏天，我发现自己在马赛闷热的街道上与交通作斗争。在一个十字路口，坐在乘客座位上的朋友告诉我右转前往以鱼汤闻名的地方。但导航应用 Waze 指示我们直走。我累了，而且雷诺感觉就像车轮上的桑拿房，我听从了位智的建议。不一会儿，我们就被困在了一个建筑工地。
也许是一个微不足道的时刻。但这也许抓住了我们这个时代的决定性问题，在这个时代，技术几乎触及我们生活的方方面面：我们更信任谁——其他人和我们自己的本能，还是机器？
德国哲学家伊曼纽尔·康德著名的启蒙运动定义他写道，不成熟“是指在没有他人指导的情况下无法运用自己的理解力”。几个世纪以来，指导人类思想和生活的“其他人”通常是祭司、君主或封建领主——他们声称自己是上帝在地球上的代言人。在试图理解自然现象时——为什么火山爆发、为什么季节变化——人类向上帝寻求答案。在塑造社会世界时，从经济到爱情，宗教都是我们的指南。
康德认为，人类总是具有理性的能力。他们只是并不总是有信心使用它。但随着美国大革命和后来的法国大革命，一个新时代正在来临：理性将取代信仰，人类思想摆脱权威的束缚，将成为进步的引擎和一个更加道德的世界。—萨佩雷奥德“！”或者“有勇气运用你自己的理解！”，康德敦促他的同时代人。
两个半世纪后，人们可能会想，我们是否正在悄悄地退回到不成熟的状态。一个应用程序告诉我们该走哪条路是一回事。但人工智能有可能成为我们新的“他者”——指导我们思想和行动的无声权威。我们正面临着放弃来之不易的独立思考勇气的危险——这一次，不是放弃给神或国王，而是放弃给代码。
ChatGPT 仅在三年前推出，四月份发布的一项全球调查发现，82%的受访者使用过人工智能在过去的六个月里。无论是决定结束一段关系还是投票给谁，人们都会向机器寻求建议。根据 OpenAI 的数据，73% 的用户提示关注与工作无关的话题。比我们在日常生活中依赖人工智能的判断更有趣的是，当我们让它为我们说话时会发生什么。现在，写作是 ChatGPT 最常见的用途之一，仅次于 DIY 或烹饪建议等实际请求。美国作家琼·迪迪安曾经说过：“我写作完全是为了了解自己在想什么。”当我们停止写作时会发生什么？我们要停止寻找吗？
令人担忧的是，一些证据表明答案可能是肯定的。麻省理工学院的一项研究使用脑电图（EEG）来监测论文作者的大脑活动可以使用人工智能、谷歌等搜索引擎，或者什么都没有。那些可以依赖人工智能的人表现出最低的认知活动，并且很难准确地引用他们的工作。也许最令人担忧的是，在几个月的时间里，人工智能小组的参与者变得越来越懒，在他们的论文中复制整个文本块。
这项研究规模较小且不完善，但康德会认识到这种模式。“懒惰和胆怯，”他写道，“是为什么如此多的人终生不成熟的原因，也是为什么其他人很容易将自己确立为他们的监护人的原因。”不成熟是很容易的。”
当然，人工智能的吸引力在于它的便利性。它节省时间、省力，而且最重要的是，它提供了一种减轻责任的新方法。德国精神分析学家埃里希·弗洛姆在其 1941 年出版的著作《逃离自由》中指出，法西斯主义的兴起可以部分解释为人们宁愿放弃自由以换取令人安心的从属地位。人工智能提供了一种新的方式来摆脱必须自己思考和决定的负担。
人工智能最大的吸引力在于它可以做我们大脑无法做到的事情——筛选海量数据并以前所未有的速度处理数据。毕竟，坐在马赛的车里，这就是为什么我选择相信机器而不是我坐在乘客座位上的朋友的原因（她认为这个决定是一种侮辱）。由于可以访问所有数据，应用程序肯定是最了解的——至少我是这么认为的。
问题是人工智能是一个黑匣子。它产生知识，但不一定加深人类的理解。我们并不真正知道人工智能是如何得出结论的——就连程序员也承认这一点。我们也无法根据清晰、客观的标准来验证其推理。因此，当我们遵循人工智能的建议时，我们并没有受到理性的指导。我们又回到了信仰的境界。可疑亲机器：当有疑问时，相信机器——这可能成为我们未来的指导原则。
在理性探究中，人工智能可以成为人类强大的盟友。它可以帮助我们发明药物，或者让我们摆脱“狗屎工作”，或者完成我们的纳税任务——那些不需要思考、也无法带来满足感的任务。一切都更好了。但康德和他的同时代人并没有主张理性高于信仰，只是为了让人类能够建造更好的架子或拥有更多的闲暇时间。批判性思维不仅仅关乎效率——它还是自由和人类解放的实践。
人类的思维是混乱且充满错误的，但它迫使我们辩论、怀疑、相互检验想法，并认识到我们自己理解的局限性。它可以建立个人和集体的信心。对于康德来说，理性的运用绝不仅仅是知识；而是理性的运用。它是为了让人们成为自己生活的代理人，并抵抗统治。这是关于建立一个基于理性和辩论的共同原则的道德共同体，而不是盲目的信仰。
尽管人工智能带来了诸多好处，但挑战在于：我们如何在不侵蚀人类推理（启蒙运动和自由民主本身的基石）的情况下利用其超人智能的承诺？这可能是 21 世纪的决定性问题之一。我们最好不要将其委托给机器。
-
约瑟夫·德韦克 (Joseph de Weck) 外交政策研究所研究员