机器人安全功能有效但输入被篡改时怎么办？

2026年10月28日，IEEE Spectrum Robotics 报道了 VicOne LAB R7 的测试结果：机器人安全功能本身有效，但当输入被篡改时，机器人会按设计正常响应，却做出错误动作。报道给出的两个例子是：Gemma 4 E4B 机器狗把海报文字当作指令，从而改变移动；在 NVIDIA Jetson AGX Orin 上运行 Nemotron 的医院服务机器人，被不可听音频改变仿真行为。报道未说明这些测试的具体时间、地点或受影响机型的范围，也未提及厂商回应或修复进展。目前事件仍停留在测试披露阶段，核心问题是：安全机制能按设计工作，但被操纵的输入仍可诱导机器人产生错误行为。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。