作家兼历史学家尤瓦尔·诺亚·哈拉里（Yuval Noah Harari）出版了一本令人不安的新书，就好像我们以色列人没有足够的事情来困扰我们一样。这是另一部“简史”——只有 518 页长。这一次，是信息网络的历史。重点是人工智能驱动的信息。根据赫拉里的说法，预后确实非常糟糕。要了解他令人毛骨悚然的哀叹，你必须阅读数百页有关不那么致命的信息网络的历史。
赫拉利认为，问题不一定是信息本身。信息网络过去曾带来过好事。问题也许在于我们一直在问错误的问题。
– 所有的信息都没有给我们生活中重大问题的答案：我们是谁？我们应该追求什么？什么是美好的生活，我们该如何过它？……今天的人类比石器时代拥有更多的信息和权力，但我们是否能更好地了解自己和我们在宇宙中的角色还远不能确定。——那么，人类现在面临的危机是在什么意义上由信息驱动的呢？
——这是一个信息问题。信息是将网络凝聚在一起的粘合剂。但数万年来，智人通过发明和传播虚构、幻想和妄想——例如纳粹主义和斯大林主义，通过异常迷惑的思想将其结合在一起，建立并维持着庞大的网络。——
哈拉里是对的。想法确实会造成巨大的损害。例如，以色列邻国似乎盲目而错误地推行基于宗教的狂热和凶残的思想。
耶路撒冷希伯来大学的 Yuval Noah Harari 出席 2020 年 1 月 21 日在瑞士达沃斯举行的第 50 届世界经济论坛 (WEF) 年会（图片来源：REUTERS/DENIS BALIBOUSE）人工智能会带来哪些危险？
主要是它将接管。“人工智能可能会加剧现有的人类冲突，使人类相互分裂，”他写道。– 我们可能会发现自己被一张深不可测的算法网所包围，这些算法管理我们的生活……甚至重新设计我们的身体和思想。如果 21 世纪的极权主义网络成功征服了世界，那么它可能是由非人类智慧来运行的。”
赫拉利警告说：“所有人类都受到非人类智慧的极权主义潜力的威胁。”温斯顿·丘吉尔关于铁幕的讲话令人印象深刻，铁幕将西方民主国家与苏联独裁政权分开。赫拉里现在谈到了硅幕，将那些拥有先进人工智能的国家和那些没有先进人工智能的国家分开。
– 主导新信息网络的硅基计算机以完全不同的方式发挥作用。硅芯片可以创造出永不睡觉的间谍、永不忘记的金融家和永不消亡的暴君。这将如何改变社会、经济和政治？
一位评论家强调了赫拉里提出的一个关键观点：民主国家和独裁国家之间的区别在于它们处理信息的方式。独裁政权更关心的是控制数据，而不是测试其真实价值。相比之下，民主国家是开放和透明的网络，公民可以在其中评估不良数据并拒绝或纠正它。
赫拉里凭借一系列有关万物历史的书籍而闻名于世。他 2011 年出版的著作《智人：人类简史》已售出超过 2500 万册，这是一个惊人的成就。他的下一本书《Homo Deus》探索了我们的未来。情况相当惨淡。
多年来，赫拉里一直在敲响人工智能的警钟。在前沿论坛活动中，他警告我们人工智能如何利用语言来诱惑我们：“新的人工智能工具正在获得与人类建立深厚而亲密的关系的能力。”
他写道，人性将在 21 世纪发生转变。技术正在将智能与意识分离、分离。我们拥有比我们自己更了解我们感受的数据处理网络。算法将我们困在社交媒体中。当这种情况发生时，作为人类的意义可能会永远改变。所有这些[AI]能力作为一个整体归结为一件非常非常大的事情：操纵和生成语言的能力，无论是文字或图像或声音。人工智能对语言的掌握程度正在超过人类的平均能力。通过掌握语言，人工智能正在抓住万能钥匙，打开我们所有机构的大门，从银行到寺庙。因为语言是我们用来向银行发出指令并激发我们脑海中天堂愿景的工具。”
赫拉里在他的新书中提出了这个价值数万亿美元的问题——当我们看到以色列边境和境内长达一年的疯狂死亡和破坏时，这一问题尤其令人痛苦：
– 为什么我们如此擅长积累信息和权力，却在获取智慧方面却远不那么成功？如果我们智人如此聪明，为什么我们如此自我毁灭？
我同意赫拉里的观点：我们智人显然和集体上都不聪明，尽管我们中间有很多聪明人。问题是，在以色列和世界各地，我们只是不听取智者的意见或选举他们担任有影响力的职位。
现在是我们这样做的时候了。核心问题不在于人工智能技术，而在于自私、贪婪的人类如何寻求利用它。”
作者领导以色列理工学院 S. Neaman 研究所的 Zvi Griliches 研究数据中心。他的博客位于 www.timnovate.wordpress.com。
Nexus：从石器时代到 AI 的信息网络简史尤瓦尔·诺亚·哈拉里兰登书屋，2024518 页；35 美元
