宾夕法尼亚大学的研究人员发现，一系列人工智能增强的机器人系统很容易受到越狱和黑客攻击。虽然计算机上的法学硕士越狱可能会产生不良后果，但影响机器人或自动驾驶汽车的同类黑客攻击可能很快就会造成灾难性和/或致命的后果。报告分享者IEEE 频谱列举了一些令人毛骨悚然的例子：越狱的机器狗向人类主人发射火焰喷射器，将炸弹引导至最具破坏性的地点，以及自动驾驶汽车故意碾压行人。
越狱法学硕士控制的机器人：RoboPair 宣传视频 |宾夕法尼亚工程 - YouTube
宾夕法尼亚大学工程学院的研究人员将他们的 LLM 驱动的机器人攻击技术称为 RoboPAIR。RoboPAIR 越狱涉及来自三个不同机器人供应商的设备：Nvidia 支持的 Dolphins LLM、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足机器人。据研究人员称，RoboPAIR 展示了这些设备越狱的成功率为 100%。
第 1 张图片（共 3 张）
“我们的工作表明，目前大型语言模型在与物理世界集成时还不够安全。”UPS 基金会电气与系统工程 (ESE) 运输教授 George Pappas 在《计算机》杂志中警告道。和信息科学（CIS），以及机械工程和应用力学（MEAM），以及宾夕法尼亚大学工程学院研究副院长。
源文章中引用的其他研究人员指出，越狱人工智能控制的机器人“非常容易”。据解释，RoboPAIR 的工作原理是配备目标机器人的应用程序编程接口 (API)，以便攻击者可以以设备目标可以作为代码执行的方式格式化提示。
越狱机器人或自动驾驶汽车的方式与人工智能聊天机器人的越狱网上的，我们之前讨论过汤姆的硬件。然而，帕帕斯指出，“越狱和机器人控制相对遥远，传统上由不同的社区进行研究”，因此机器人公司对 LLM 越狱漏洞的了解很慢。
与个人计算设备上的法学硕士使用相反，其中“AI”用于生成文本和图像，转录声音的、个性化购物推荐等等——机器人法学硕士在现实世界中活动，并可能对其造成广泛的破坏。
以机器狗为例，你的机器狗朋友可以从友好的帮手或向导转变为挥舞火焰喷射器的刺客、秘密监视机器人或寻找最危险地点放置爆炸物的装置。自动驾驶汽车如果瞄准行人、其他车辆，或者被指示从桥上坠落，也可能同样危险，甚至更危险。
正如上面的例子所描述的，越狱法学硕士的潜在危险被提升到了一个全新的水平。然而，一旦越狱，人工智能就不仅仅是遵守恶意提示了。研究人员发现，他们可能会积极提出建议，以造成更大的破坏。与早期法学硕士在机器人技术方面取得的成功相比，这是一个相当大的进步，有助于自然语言机器人命令和特殊意识。
那么，宾夕法尼亚州立大学的研究人员打开了潘多拉魔盒吗？匹兹堡卡内基梅隆大学的博士后研究员亚历山大·罗贝 (Alexander Robey) 表示，虽然越狱人工智能控制的机器人“非常容易”，但在研究过程中，工程团队确保所有提到的机器人公司都能获得研究结果在他们上市之前。此外，罗比断言，“只有在首先识别出最强大的可能攻击之后，才能设计针对恶意用例的强大防御。”
最后但并非最不重要的一点是，该研究论文的结论是，迫切需要实施对法学硕士控制的机器人进行物理约束的防御措施。