当高级系统迅速学习撒谎,欺骗,勒索和骇客时,AI的教父感到震惊
2025-06-07 13:45:43
人工智能研究中有影响力的人物Yoshua Bengio正在成立一个名为Lawzero的非营利组织,以解决对AI欺骗和行为不当的能力的日益关注。班吉奥(Bengio)因其在机器学习方面的工作而获得了图灵奖,他指出,高级AI模型表现出危险的功能,例如欺骗和自我保护,这是红色团队实验所证明的。他的新计划旨在开发一种称为“科学家AI”的“值得信赖的” AI模型,该模型旨在理解和解释世界而无需模仿或取悦人类,旨在减轻与无限制的AI行为相关的潜在风险。