arXiv Artificial Intelligence· David H. Yang, Blake Bullwinkel, Amanda Minnich, Mohammad Mohammadi Amiri, Giorgio Severi·· 13 小时前AI 评分44
MemoryDojo：追踪 LLM 智能体记忆投毒生命周期的基准测试
MemoryDojo: Benchmarking Poisoning Through LLM Agent Memory
AI 导读
MemoryDojo 是用于追踪投毒信息在 LLM 智能体记忆中生命周期并衡量其对后续行为影响的基准，包含覆盖四个领域的 155 条多会话长程轨迹，支持五种记忆系统。评估发现所有记忆系统均易受记忆投毒影响，且下游效应差异显著。研究还提出一种记忆感知的投毒优化流程，可提升投毒效果并凸显不同记忆架构之间的差异。
推荐理由模型分析
该工作把LLM智能体记忆系统的投毒风险拆成可追踪的生命周期，构建了覆盖4个领域、155条多会话长程轨迹、支持5种记忆系统的MemoryDojo基准，并比较了不同架构下毒化信息的下游影响差异。它还提出记忆感知的投毒优化流程，说明攻击效果会随记忆架构变化。做Agent记忆、长程任务或安全评测的开发者可据此选择基线、设计防御实验，但结论限于基准内轨迹与所测系统。
来源：arXiv Artificial Intelligence · arxiv.org