arXiv Artificial Intelligence· Yujie Feng, Xiaobin Wang, Jinluan Yang, Xiaonan Shi, Pengjun Xie, Philip S. Yu, Xiaoming Wu, Jieping Ye·· 2 小时前AI 评分35
自我改进智能体的技能-策略协同演化陷阱:CODA 漂移审计协议
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents
AI 导读
自我改进智能体训练中策略模型与技能库协同演化,但现有评测只考核最终技能库上的表现,忽略部署后技能漂移带来的脆弱性。作者提出面向部署的 CO-evolution Drift Audit(CODA)协议,模拟技能漂移并引入语义保持编辑下的一致性率与损坏技能抵抗率两项指标。
来源:arXiv Artificial Intelligence · arxiv.org