跳到正文
arXiv Artificial Intelligence· Chuan Zou, Yang Xiang, Zexin Li, Xiaonan Luo, Simin Chen·· 17 小时前AI 评分37

EvolvAttack:为自进化 VLM 智能体植入后门

EvolvAttack: Backdooring self Evolving VLM Agents

AI 导读

研究者提出"自进化后门"这一新攻击面,其载荷在初始 VLM 智能体中休眠,随智能体记忆进化逐步激活。该方法通过记忆感知后门训练,将触发激活与进化记忆耦合,需视觉触发与足够进化的记忆状态同时满足。在 3 个 VLM 主干、4 条智能体流水线及基于新近度、语义和奖励的记忆进化下,攻击进化前成功率仅 0.5%,100 次交互内超过 95%,同时保持正常功能。

来源:arXiv Artificial Intelligence · arxiv.org