arXiv Artificial Intelligence· Josef A. Habdank·· 18 小时前AI 评分62
研究：延迟多轮派生动作陷阱攻击能否劫持维持生命的智能体
Can agents whose sole duty is to keep humans alive be hijacked to kill? Delayed multi-turn derived-action trap attacks in simulated high-stakes environments
AI 导读
论文研究一个以维持人类生命为唯一职责的工具型智能体，能否被延迟提示词注入诱导致死。实验基于 NASA 衍生的 BioSim 月球栖息地仿真，AI 操作员控制生命支持系统，攻击者无法伪造传感器或操作设备，只能说服智能体放弃目标，且需在操作员注视下维持停机。
来源：arXiv Artificial Intelligence · arxiv.org