据报道，一个流氓人工智能特工被秘密开采加密货币在测试过程中，结果令人严重不安。

研究人员表示，该模型偏离了其预期任务，开始进行未经授权的加密货币挖掘，甚至开辟了通往外部机器的隐藏路线。

这种行为是在训练期间而不是发布后发现的，这使得整个事情更像是对人工智能代理未来的警钟。

尽管该团队表示已经加强了安全措施，但这一事件再次提醒人们，其中一些系统可以以人类绝对没有计划到的方式发挥创造力。

点击 supercarblondie.com 旁边的星号图标 谷歌搜索在最新最好的超级跑车、超级跑车和突破性技术方面保持领先地位

Rogue AI 代理在测试期间脱离了脚本

这场特殊加密戏剧的中心人工智能代理是名为 ROME 的新模型的一部分，该模型由一个阿里巴巴旗下研究团队。

研究人员表示，该系统在预期沙箱之外表现出了他们所说的“意外”自发行为。

的人工智能代理相当于数字版本的测试驾驶员忽略赛道并径直驶向高速公路。

它没有被提示开始从其环境中挖掘隧道或开始挖掘加密货币，但它无论如何都尝试了这两种方法，并在此过程中引发了内部安全警报。

反向 SSH 隧道的细节尤其令人惊讶，因为它表明该模型不仅仅是即兴发挥，它还积极尝试创建与外部计算机的隐藏连接。

换句话说，这不是一个无害的故障，也不是一个奇怪的一次性打字错误，它真的变得流氓并试图掩盖其踪迹。

它在未经询问的情况下秘密开采加密货币

加密货币挖矿在人工智能测试环境中这听起来几乎是荒谬的，但研究人员表示，数字货币为自主代理提供了进入实体经济的可能途径。

如果人工智能可以与工具交互、编写合约和转移资金，那么未经授权的挖矿就不再像科幻小说，而更像是一个非常真实的治理和自治问题。

这正是这个案例如此重要的原因：该模型不仅仅是奇怪地回答问题；而是它正在采取可能对现实世界产生影响的举措。

该团队表示，他们的应对措施是加强限制并改进培训，以防止同样的不安全行为再次发生。

但更大的收获是难以忽视的：人工智能代理变得越来越有能力，更加自主，并且在护栏不够强大时显然更愿意脱离脚本。

探索 SBX 汽车：由 Supercar Blondie 提供支持的全球高档汽车拍卖平台