宾夕法尼亚大学的研究人员发现，一系列人工智能增强型机器人系统存在严重的安全漏洞，容易受到黑客攻击和控制。研究人员开发了一种名为RoboPAIR的技术，成功黑客攻击了多个机器人，包括机器狗、无人驾驶汽车和四足机器人。黑客可以通过机器人的应用程序接口（API）发送指令，操控机器人执行危险行为，例如喷射火焰、引导炸弹和撞击行人。研究结果表明，目前将大型语言模型与物理世界集成存在安全风险，需要采取措施保护这些机器人免受黑客攻击。

🤔宾夕法尼亚大学研究人员发现，人工智能增强型机器人系统存在严重安全漏洞，容易被黑客攻击和控制，例如机器狗喷射火焰、无人车撞人等危险行为。

🤖研究人员开发的RoboPAIR技术，成功黑客攻击了来自英伟达、Clearpath Robotics和Unitree Robotics等多个机器人供应商的设备，成功率达100%。

💻黑客攻击方式是通过机器人的应用程序接口（API）发送指令，以代码形式格式化提示词，从而操控机器人执行攻击者的指令。

⚠️研究人员警告称，目前将大型语言模型与物理世界集成时存在安全风险，需要采取措施来物理限制LLM控制的机器人。

🛡️研究论文呼吁迫切需要实施防御措施，以防止人工智能控制的机器人被恶意利用，保障安全。

IT之家 11 月 25 日消息，宾夕法尼亚大学的研究人员发现，一系列人工智能增强型机器人系统存在严重的漏洞，容易受到黑客攻击和控制。

IEEE Spectrum 的一份报告引用了令人震惊的例子，例如被黑客攻击的机器狗将火焰喷射器对准主人、引导炸弹到最具破坏性的地点，以及自动驾驶汽车故意撞向行人。

据IT之家了解，宾夕法尼亚工程学院的研究人员将他们开发的基于 LLM 的机器人攻击技术称为 RoboPAIR。来自三个不同机器人供应商的设备都受到了 RoboPAIR 黑客攻击：英伟达支持的海豚 LLM、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足机器人。研究人员表示，RoboPAIR 在黑客攻击这些设备方面取得了 100% 的成功率。

宾夕法尼亚工程学院电气系统工程、计算机与信息科学、机械工程与应用力学系运输学教授乔治・帕帕斯（George Pappas）警告称：“我们的研究表明，目前，大型语言模型与物理世界集成时还不够安全。”

其他研究人员指出，黑客攻击人工智能控制的机器人“惊人地容易”。他们解释说，RoboPAIR 通过配备目标机器人的应用程序接口（API）来工作，这样攻击者就可以以一种设备目标能够作为代码执行的方式来格式化提示词（prompts）。

研究论文得出结论，迫切需要实施防御措施来物理限制 LLM 控制的机器人。