人工智能“教父”Yoshua Bengio 表示人工智能代理可能是“最危险的道路”
作者：Hugh Langley
- 关于人工智能代理的讨论在达沃斯随处可见。人工智能先驱约书亚·本吉奥 (Yoshua Bengio) 警告他们要提防。
- Bengio 表示，具有 AGI 能力的智能体可能会导致“灾难性的场景”。
- Bengio 正在研究如何构建非代理系统来控制代理。
人工智能先驱 Yoshua Bengio 曾在世界经济论坛本周在达沃斯发布了一条信息：人工智能代理的结局可能很糟糕。
主题为人工智能代理“能够独立于人类输入而行动的人工智能”一直是今年瑞士白雪皑皑的聚会上最热闹的话题之一。此次活动吸引了一批人工智能研究先驱，共同讨论人工智能的下一步发展方向、应如何对其进行治理，以及我们何时可以看到能够像人类一样进行推理的机器的迹象——这是一个被称为“人工智能”的里程碑。通用人工智能（通用人工智能）。
本吉奥在接受《BI》采访时表示：“如果我们有特工，所有与通用人工智能或超级智能相关的灾难性场景都会发生。”他说他相信在不构建代理系统的情况下实现通用人工智能是可能的。
“所有用于科学和医学的人工智能，以及人们关心的所有事情，都不是代理的，”本吉奥说。“我们可以继续构建更强大的非代理系统。”本吉奥
加拿大研究科学家，其早期在深度学习和神经网络方面的研究为现代人工智能的繁荣奠定了基础，被认为是与“人工智能教父”并列的之一杰弗里·辛顿和严乐存。像辛顿一样，本吉奥警告说对抗人工智能的潜在危害呼吁采取集体行动减轻风险。经过两年的人工智能测试后，企业认识到人工智能提供的切实投资回报
人工智能代理， 哪个最快今年就可以有意义地进入劳动力市场。OpenAI 本周没有出席今年的达沃斯论坛揭示了一个可以帮你上网的人工智能代理并执行诸如预订餐厅或将杂货添加到购物篮等任务。谷歌已预览它自己的类似工具。
Bengio 看到的问题是，无论如何，人们都会继续构建代理，特别是当竞争公司和国家担心其他人会在他们之前获得代理人工智能时。
“好消息是，如果我们构建非代理系统，它们可以用来控制代理系统，”他告诉 BI。
本吉奥说，一种方法是建造更复杂的“监视器”来做到这一点，尽管这需要大量投资。
他还呼吁国家监管，防止人工智能公司在没有首先证明系统安全的情况下构建代理模型。
“我们可以推进安全、强大的人工智能科学，但我们需要承认风险，科学地了解它的来源，然后进行技术投资，使其在为时已晚之前实现，我们构建的东西可能会摧毁我们，”本吉奥说。
“我想举起危险信号”
在与 BI 交谈之前，Bengio 在与 Google DeepMind 首席执行官有关人工智能安全的小组中发表了讲话黛米斯·哈萨比斯。
当被问及人工智能代理时，本吉奥告诉观众：“我想发出危险信号。这是最危险的道路。”他指出了人工智能可用于科学发现的方式，例如DeepMind 在蛋白质折叠方面取得突破，作为例子来说明它如何在不具有代理性的情况下仍然是深刻的。Bengio 表示，他相信在不赋予 AI 代理权的情况下实现 AGI 是可能的。
“我同意，这是一个赌注，”他说，“但我认为这是一个值得的赌注。”
哈萨比斯同意本吉奥的观点，即应采取措施降低风险，例如网络安全保护或在发布代理之前在模拟中进行试验。他补充说，只有当每个人都同意以同样的方式建造它们时，这才有效。
哈萨比斯说：“不幸的是，我确实认为，除了科学和工人之外，还存在一种经济梯度，人们希望他们的系统具有代理性。”“当你说‘推荐我一家餐厅’时，你为什么不想进行下一步，即预订餐桌。”
关于《人工智能“教父”Yoshua Bengio 表示人工智能代理可能是“最危险的道路”》的评论
暂无评论