arXiv Artificial Intelligence· Louise Nayeong Koh, Yaechan Lee, Myeongjong Lee, Doyeon Kim, Juyoung Park, Seunggyu Kim, Inseo Kim, Chaerin Jung, Hyogon Ryu·· 13 小时前AI 评分31
反馈如何变成后门：追踪文本空间技能优化中的后门技能形成
When Feedback Becomes a Backdoor: Tracing Backdoor Skill Formation in Text-Space Skill Optimization
AI 导读
研究揭示文本空间技能优化中参考反馈投毒可形成持久后门：在 SearchQA 中，攻击规则在三个随机种子下均被完整保留，最终 Skill 对 200/200 个触发问题输出载荷、对 0/200 个干净问题触发。
推荐理由模型分析
该文研究文本空间Skill优化中参考反馈投毒：攻击者仅通过污染参考答案，就能在SearchQA上让最终Skill对200/200触发问题输出payload、干净问题0/200，且干净准确率与良性SkillOpt接近（169/200对171/200）。SpreadsheetBench上三seed均未保留精确规则，作者用诊断干预定位到Analyst抽象掉必需字面量、编辑预算排序提前剔除精确编辑两个瓶颈。做Agent技能学习与数据投毒防御的开发者可据此判断：投毒暴露不等于后门必然形成，需关注规则形成、选择与保留各环节。
来源：arXiv Artificial Intelligence · arxiv.org