人工智能“教父”有一个令人惊讶的盲点 |信件
“人工智能教父”杰弗里·辛顿教授表示，他正在努力寻找“更智能的事物被……不太智能的事物控制”的例子；母婴关系是他唯一能举的例子（“人工智能教父”缩短了未来 30 年技术消灭人类的可能性，12 月 27 日）。这似乎是一种方面失明的奇怪爆发，特别是考虑到 Hinton 的专业性。
许多理论家（格雷厄姆·哈曼、蒂莫西·莫顿、简·贝内特、布鲁诺·拉图尔等）提供了有说服力的论据，表明（借用弗洛伊德的话）“人不是自己家里的主人”：人类行为是持续的，有时是明显的，由非人类司机监管，其中许多人看起来相当愚蠢。冠状病毒提供了一个典型的例子。目前人工智能几乎不受监管的崛起无疑是可怕的，但有效地应对它需要人类认识到他们无法掌握他们所调查的一切，并质疑那些东西（聪明的和愚蠢的）控制我们的方式，以及副驾驶。反之亦然。气候崩溃和生态危机也是如此。
雷切尔·威瑟斯
伦敦
辛顿教授表示，很少有“低智能”生物控制高智能生物的例子。抛开实际定义智力是什么的困难不谈，我是否可以认为古老且仍然蓬勃发展的奴隶制和政治压迫制度符合要求？压迫者和被压迫者之间的智力差异与这些企业的成功程度无关。当然，如果我们刻意将事务的管理权交给这些愚昧的人工智能机器，那么我们得到的一切都是应得的。
乔治·伯特
格拉斯哥
关于《人工智能“教父”有一个令人惊讶的盲点 |信件》的评论
暂无评论
发表评论
摘要
被称为“人工智能教父”的杰弗里·辛顿 (Geoffrey Hinton) 发现很难识别低智能实体控制高智能实体的情况，他认为母婴关系是一个罕见的例外。批评者认为，这忽视了许多非人为因素（包括病毒和技术系统等看似不智能的因素）显着影响人类行为的例子。有效管理人工智能的发展需要承认人类的局限性，并了解智能和愚蠢的技术如何控制我们。讨论延伸到气候变化和生态危机等更广泛的问题。