首席专家表示，人工智能竞赛正在使兴登堡式的灾难成为“真正的风险”
作者：Ian Sample
一位领先的研究人员警告说，人工智能推向市场的竞赛增加了发生兴登堡式灾难的风险，从而动摇了全球对该技术的信心。
牛津大学人工智能教授迈克尔·伍尔德里奇表示，这种危险源于科技公司在发布新的人工智能工具方面面临的巨大商业压力，这些公司迫切希望在产品的功能和潜在缺陷得到充分了解之前赢得客户。
带有护栏的人工智能聊天机器人激增容易绕过他说，这表明商业激励措施如何优先于更谨慎的开发和安全测试。
“这是经典的技术场景，”他说。“您拥有一项非常非常有前途的技术，但并没有像您希望的那样经过严格的测试，而且其背后的商业压力是难以承受的。”
伍德里奇将于周三晚上发表皇家学会迈克尔·法拉第奖演讲，题为“这不是我们承诺的人工智能— 表示，随着公司争相部署更先进的人工智能工具，兴登堡时刻“非常合理”。
1937 年，兴登堡号飞艇长 245 米，往返大西洋，正准备降落在新泽西州时突然起火，造成 36 名机组人员、乘客和地勤人员死亡。这场大火是由火花点燃了使飞艇保持在高空的 20 万立方米氢气引起的。
– 兴登堡灾难摧毁了全球对飞艇的兴趣；从那时起，它就成为一项死亡技术，而类似的时刻对人工智能来说是真正的风险。”Wooldridge 说。由于人工智能嵌入到如此多的系统中，重大事件可能会袭击几乎所有部门。
伍尔德里奇想象的场景包括自动驾驶汽车的致命软件更新、人工智能驱动的黑客攻击导致全球航空公司停飞，或者人工智能做一些愚蠢的事情引发巴林银行式的大公司倒闭。“这些都是非常非常有可能发生的情况，”他说。“人工智能可能会以各种方式公开出错。”
尽管存在担忧，伍尔德里奇表示他无意攻击现代人工智能。他的出发点是研究人员的预期与实际情况之间的差距。许多专家预计人工智能能够计算出问题的解决方案并提供合理且完整的答案。“当代人工智能既不健全也不完整：它非常非常近似，”他说。
出现这种情况是因为支撑当今人工智能聊天机器人的大型语言模型根据训练中学到的概率分布预测下一个单词或单词的一部分来给出答案。它导致人工智能锯齿状的能力：在某些任务上非常有效，但在其他任务上却很糟糕。
伍尔德里奇说，问题在于人工智能聊天机器人会以不可预测的方式失败，并且不知道自己什么时候出错，但无论如何都会提供自信的答案。他补充说，当以类似人类和阿谀奉承的方式给出答案时，答案很容易误导人们。风险在于人们开始像对待人类一样对待人工智能。在一个2025年调查民主与技术中心的调查显示，近三分之一的学生表示，他们或朋友曾与人工智能建立过恋爱关系。
“公司希望以一种非常像人类的方式呈现人工智能，但我认为这是一条非常危险的道路，”伍德里奇说。“我们需要明白，这些只是美化的电子表格，它们只是工具，仅此而已。”
伍尔德里奇看到了《星际迷航》早期描述的人工智能的积极一面。在 1968 年的一集《鸽子之日》中，斯波克先生询问了企业号的计算机，却被一种明显非人类的声音告知，它已经数据不足无法回答。——这不是我们得到的。我们得到一个过于自信的人工智能，它说：是的，这就是答案，”他说。– 也许我们需要人工智能用《星际迷航》计算机的声音与我们交谈。你永远不会相信这是一个人。”