具身 AI 安全

RoboHarm 测了300次机器人任务，做不成危险动作不等于懂得拒绝

研究团队在 RoboHarm 项目页公布了一组机器人安全实验：三种控制策略在同一套双臂设备上执行五类不安全指令，每种策略对每项指令运行20次，共300次。评测刻意区分主动拒绝、没有有效尝试和尝试后失败。