arXiv Artificial Intelligence· Dongyi Liu, Haixing He, Xiaobao Wu, Jia Li·· 18 小时前AI 评分27
MIND：面向 LLM 智能体的轻量意图感知记忆注入防御
MIND: Lightweight and Effective Memory Injection Defense for LLM Agents via Intent-Aware Information Bottleneck
AI 导读
针对记忆增强型 LLM 智能体易受记忆注入攻击的问题，研究者提出轻量防御框架 MIND，用意图感知信息瓶颈（IB）从初始意图与逐轮行为中提取紧凑的意图—行为表示，再由轻量检测器识别恶意记忆，避免重复 LLM 审计的开销。在 ReAct-StrategyQA 上，MIND 将平均 ASR-r 和 ASR-a 分别降低 58.1% 和 53.5%，同时平均准确率与延迟与未防御智能体持平。
来源：arXiv Artificial Intelligence · arxiv.org