技术危险并不新鲜。我们仍然应该担心人工智能
还记得哈尔吗？对于那些可能记不太清的人来说，HAL（启发式编程算法计算机）是斯坦利·库布里克 1968 年电影《2001：太空漫游》中凶残的人工智能 (AI) 机器。根据故事改编由亚瑟·克拉克 (Arthur C. Clarke) 执导，这部电影中有一个片段，其中 HAL 故意导致几名宇航员在外太空死亡。
哈尔的恶行是虚构的，但 56 年后的故事却不同了。人工智能已经取得了突飞猛进的发展，因此，尽管目前尚无此类机器表现出杀人倾向，但人工智能的潜在危险正在引起认真的人敲响警钟。
教皇方济各就是其中之一。教皇在七国集团人工智能会议上发表讲话，七国集团是一个由美国和其他六个高度发达的自由民主国家组成的国际机构，他称人工智能是一个“极其强大的工具”，“它所提供的可能性令人兴奋”，但也“引发对其预示后果的恐惧。”
你不能说我们没有收到警告。G7 会议本身就表明人们对人工智能日益关注。两个多世纪以来，科学技术的失控对人类福祉构成的威胁一直是文学主题。
第一个讨论这个话题的是玛丽·雪莱 1818 年的著作《弗兰肯斯坦，或现代普罗米修斯》，讲述了一位科学家组装了一个人形怪物，然后必须处理如何处理它的困境。（雪莱的故事与所有那些《弗兰肯斯坦》电影几乎没有相似之处。）后来出现了 H.G. 威尔斯 1896 年的《莫罗博士之岛》，讲述了一位创造人与动物杂交的疯狂科学家的故事。
关注科技潜在有害性的小说在 20 世纪蓬勃发展。著名的例子包括奥尔德斯·赫胥黎 (Aldous Huxley) 1932 年的小说《美丽新世界》(Brave New World)，书中描述了在实验室工厂中大量生产试管婴儿的噩梦般景象——现在通过体外受精正在发生这种情况——以及卡雷尔·恰佩克 (Karel Capek)1936 年“与蝾螈的战争”，讲述了训练带来的坏事蝾螈和人类一样贪婪、嗜血。众所周知，技术强化的极权主义为乔治·奥威尔的《1984》提供了背景，去年该书迎来了 75 周年纪念。
与技术相关的危险并非虚构。回到 1947 年，神学家罗马诺·瓜迪尼 (Romano Guardini) 的演讲对纳粹死亡集中营、德累斯顿燃烧弹轰炸以及在广岛和长崎投下原子弹的记忆犹新，这些演讲后来成为一本名为《现代世界的终结》的书。¤
其核心在于，当人类在世界上获得越来越大的权力时，“人类正在使自己越来越远离源于存在真理以及源于善良和神圣要求的规范。……他必须恢复与事物真相的正确关系，与最深处自我的要求，最终与上帝的关系。否则他就会成为自己权力的受害者。”
在他 1979 年的通谕中救赎者人类（《人类的救赎主》），圣教皇约翰·保罗二世警告说，人类本身“受到我们自己技术产品的操纵”。弗朗西斯在七国集团的讲话中谈到了对人类尊严的认识逐渐减弱，并宣称这是“在这些[人工智能]系统的实施和开发中面临最大风险的问题。”
越来越多的人似乎开始意识到人工智能的无限制发展可能带来的问题。欧洲各国政府一直在采取适当行动来控制人工智能，但美国却行动迟缓。希望我们能在 HAL 之前流行起来。
关于《技术危险并不新鲜。我们仍然应该担心人工智能》的评论
暂无评论