去年十二月，我观察到一个孩子正在观看我们街上的看守人生火取暖。火焰的舞蹈让她着迷，但她感受到的热量阻止她走得太近，这是一个安全的反应。
Mysterium tremendum et fascinans（我们同时钦佩和恐惧的神秘事物）；神学家兼哲学家鲁道夫·奥托创造了这个短语来描述人类对遇到的难以理解的非凡现象的反应。这引发了人工智能的想法，这是一项与人类创造的任何东西都不同的发明。从进行复杂的医疗诊断到进行诗意的对话，人工智能令人着迷。但它也有另一面，一种可能给人类和环境带来巨大不良后果的力量。
技术需要谈判。一辆保养良好、驾驶良好的汽车可以使用多年。如果处理不当，它会带来麻烦并成为负担。当技术具有集体社会用途和影响时，这种谈判涉及更广泛的物质、法律和社会因素，以实现其全部潜力。继续以汽车为例，这些更广泛的因素包括合适的道路、交通法规、有效的许可制度和驾驶员的体贴行为等。简而言之，一项技术的潜力是为少数人服务还是为大多数人服务？命运在一个生态系统中。
事实上，当今世界，人工智能诞生的生态系统并不令人羡慕。这是相当令人担忧的：这是一个紧密相连的世界，但许多人通过两极分化的意识形态表现出憎恨他人的倾向；对物质世界拥有前所未有的科学知识，但与自然的关系却很脆弱；而且，无与伦比的技术承诺对自由和隐私构成严重威胁。希望与绝望，就像阴影与阳光一样，由这些悖论交织在一起。
这些状况的核心是财富日益集中在越来越少的人手中。2022年，1.2%的最富有的人控制着全球财富的47.8%。这种财富分配不均是新自由主义经济模式的结果，它会造成政治、社会和心理后果，因为它造成了资源和机会获取方面的不平等。在这样的生态系统中，人工智能的力量很可能会加剧不平等及其后果。
当今世界，人工智能诞生的生态系统并不令人羡慕。
这会造成什么危害？有时人工智能被比作工业革命。该协会的进展也仅限于此。这场革命虽然对非熟练体力劳动造成了灾难性的影响，但实际上仍然增加了对熟练体力劳动和脑力劳动的需求。但现在，人工智能和机器人技术的结合可以取代这些形式的工作和劳动力。利润的诱惑使得这种可能性很有吸引力。这使得数亿人完全失业的威胁成为现实。对于人形教师和护士来说，甚至认为需要柔和、人性化的工作是安全的信念似乎也是站不住脚的。
人工智能的倡导者经常通过预见一个全民收入的休闲时代来做出回应。这种虔诚的希望，或者说是为人工智能的发展辩护的虚假承诺，忘记了除了少数人之外，我们大多数人只有在花时间从事所谓的工作之后才能享受休闲。如果被迫将甜食作为主食，最爱吃甜食的人会感到排斥。
此外，鉴于我们现在对神经可塑性的了解，在没有工作挑战和我们越来越依赖人工智能来获取答案的情况下，如何想法会改变吗？另一方面，经过更多的训练，人工智能会变得更加聪明吗？它会变得不那么敏捷、好奇和聪明吗？最后，还有它对民主治理模式的影响问题。我们工作、纳税并在政府中占有一席之地。我们成为公民。通过慷慨收到的钱意味着没有税收，因此可能导致在治理方面没有发言权。
即使我们抛开大规模失业的危险，不重新平衡权力结构，人工智能的最大用途也可能是投入战争、监视和营销，而剩下的部分则落入教育、卫生和其他社会公益事业。毫不奇怪，这项技术的一些先驱者（例如前 Google 员工 Geoffrey Hinton）现在担心人工智能的影响。
请注意与人工智能进行谈判的重要性。没有它，前进的道路就很滑。我们如何与人工智能谈判？个人层面的批判性教育以及集体层面的健全的全球和国家法规是我们拥有的最好的谈判工具。
这里的关键意味着培养理解问题的能力。权力和知识的结构隐藏在表面之下，决定着生活的机会以及获得机会和资源的机会。人文学科被认为最适合这种能力。它们需要成为高等教育不可或缺的一部分，旨在培养和维持对内心生活、同胞、社会组织和行为的道德后果的兴趣。
这样的教育可以帮助我们认识到：技术并不存在于社会之外，可以从社会中召唤技术来拯救社会。相反，如果技术要成为造福大多数人的力量，它们就融入了一个社会，而社会的轮廓必须重新构想。
同样重要的是制定一系列全球和国家法规，以创造良好的环境。创造力与社会责任之间的平衡。其中包括：人工智能治理框架；问责制和安全协议；数据保护和隐私政策；公平的学习机会；禁止人工智能的某些用途，例如战争和秘密监视；公共民主监督；算法的透明度；工作保护、环境影响法规；以及监督和执行机制。这说起来容易做起来难。目前这些几乎都不存在。
在一定条件下、一定时期内，谈判是可能的。在那之后，可能就太晚了。现在是谈判的时候了。
作者是阿迦汗大学教育发展研究所教授兼院长。
发表于2024年9月14日《黎明》