人工智能系统可能“与人类作对”：科技先驱 Yoshua Bengio 警告人工智能风险

人工智能先驱、著名计算机科学家约书亚·本吉奥 (Yoshua Bengio) 警告说，这项新兴技术可能对社会产生负面影响，并呼吁开展更多研究来降低其风险。

Bengio 是蒙特利尔大学教授、蒙特利尔学习算法研究所所长，因其在深度学习方面的工作获得了多项奖项，人工智能的一个子集它试图模仿人脑的活动来学习如何识别数据中的复杂模式。

但他对这项技术感到担忧，并警告说，一些拥有“强大权力”的人甚至可能想要 看到人类被机器取代。

Bengio 在蒙特利尔举行的 One Young World 峰会上对 CNBC 的 Tania Bryer 表示：“展望未来，我们拥有在许多方面与我们一样智能的机器，这对社会意味着什么，这一点非常重要。”

他说，机器很快就会拥有人类的大部分认知能力——通用人工智能 (AGI) 是一种人工智能技术，旨在达到与人类同等或更好的智力。

“智力赋予力量。那么谁来控制这种力量呢？”他说。“拥有比大多数人了解更多的系统如果落入坏人手中可能会很危险，并会在地缘政治层面造成更多不稳定，例如恐怖主义。”

Bengio 表示，有限数量的组织和政府将有能力建造强大的人工智能机器，而且系统越大，它们就会变得越智能。

“你知道，这些机器的建造和培训成本达数十亿美元，而且很少有组织和国家能够做到这一点。情况已经如此，”他说。

“权力将会集中：经济权力，这可能不利于市场；政治权力，这可能不利于民主；军事权力，这可能不利于我们星球的地缘政治稳定。所以，很多我们需要仔细研究并尽快开始缓解的开放问题。”

他说，这样的结果在几十年内是可能的。“但如果是五年，我们还没有准备好......因为我们没有方法来确保这些系统不会伤害人们或不会反对人们......我们不知道该怎么做，”他补充道。

本吉奥说，有观点认为，目前人工智能机器的训练方式“将导致系统与人类作对”。

“此外，有些人可能想滥用这种权力，有些人可能会很高兴看到人类被机器取代。我的意思是，这是一个边缘，但这些人可以拥有很多权力，他们可以除非我们现在就设置正确的护栏，否则就这样做，”他说。

本吉奥赞同公开信六月的标题是：“对先进人工智能发出警告的权利。”它是由 Open AI 的现任和前任员工签署的，该公司是病毒式人工智能聊天机器人 ChatGPT 背后的公司。

这封信警告说人工智能进步的“严重风险”并呼吁科学家、政策制定者和公众提供指导，以缓解这些问题。在过去的几个月里，OpenAI 受到了越来越多的安全担忧，其“AGI Readiness”团队解散十月。

本吉奥对 CNBC 表示：“政府需要做的第一件事是制定法规，迫使[公司]在建立这些边境系统时进行注册，这些系统就像最大的系统一样，需要花费数亿美元进行培训。”“政府应该知道它们在哪里，你知道，这些系统的具体情况。”

本吉奥说，由于人工智能发展如此之快，政府必须“有点创造力”并制定能够适应技术变化的立法。

这位计算机科学家表示，开发人工智能的公司也必须对其行为负责。

“责任也是迫使[公司]表现良好的另一种工具，因为……如果涉及到他们的钱，担心被起诉——这将促使他们采取保护公众的措施。如果他们知道他们不能被起诉，因为现在这是一个灰色地带，那么他们的行为不一定会很好，”他说。“[公司]相互竞争，而且，你知道，他们认为第一个到达 AGI 的人将占据主导地位。所以这是一场竞赛，而且是一场危险的竞赛。”

本吉奥表示，确保人工智能安全的立法过程将类似于为飞机或汽车等其他技术制定规则的方式。“为了享受人工智能的好处，我们必须进行监管。我们必须设置护栏。我们必须对技术的开发方式进行民主监督，”他说。

随着人工智能的发展，错误信息的传播，尤其是与选举相关的错误信息的传播，越来越令人担忧。十月，OpenAI 表示它已经扰乱了“来自世界各地的 20 多个运营机构和欺骗性网络试图使用我们的模型。”其中包括美国和卢旺达选举前创建的虚假账户发布的社交帖子。

本吉奥说：“短期最大的担忧之一是虚假信息、错误信息以及人工智能影响政治和观点的能力，但随着我们向更强大的系统迈进，这一担忧将会加剧。”“随着我们的前进，我们将拥有能够生成更逼真的图像、更逼真的声音模仿、更逼真的视频的机器，”他说。

Bengio 说，这种影响可能会延伸到与聊天机器人的互动。一项研究意大利和瑞士研究人员的研究表明，OpenAI 的 GPT-4 大语言模型可以比人类更好地说服人们改变主意。“这只是一项科学研究，但你可以想象有人读了这篇文章并想要这样做来干扰我们的民主进程，”他说。

本吉奥说，“最难的问题”是：“如果我们创造出比我们更聪明并且有自己目标的实体，这对人类意味着什么？我们是否处于危险之中？”

“这些都是非常困难和重要的问题，我们没有所有的答案。我们需要更多的研究和预防措施来减轻潜在的风险，”本吉奥说。

他敦促人们采取行动。“我们有代理权。现在引导社会和人类朝着积极和有益的方向发展还为时不晚，”他说。“但为此，我们需要足够多的人来了解优势和风险，我们需要足够多的人来研究解决方案。解决方案可以是技术性的，也可以是政治性的......政策，但我们需要足够的努力现在就朝这些方向发展，”本吉奥说。 

- CNBC 的 Hayden Field 和 Sam Shead 对本报告做出了贡献。