arXiv Artificial Intelligence· Tural Mehtiyev, Biruk Tadesse, Lawrence Arkoh, Wesley Assun\c{c}\~ao·· 13 小时前AI 评分47
指令文件过时后:编码智能体中的文档债与隐性成本
When Instruction Files Go Stale: Documentation Debt and Hidden Cost in Coding Agents
AI 导读
研究基于三个活跃开源仓库中的真实过时指令(测试命令、代码位置、组件添加流程),让智能体在保持代码与任务不变的情况下完成 22 项维护任务,并分析两个模型共 732 条轨迹。
推荐理由模型分析
该研究把编码智能体的评测从只看任务是否成功,推进到逐次工具调用的行为成本,用三个真实开源仓库的过期指令做对照实验,固定代码与任务,比较保留、改正、删除三种版本。结果显示智能体在指令与任务相关时会沿用过期指引,过期测试命令使 Claude Sonnet 5.5 每次约多两次工具调用,且智能体均未修复指令文件。开发者可据此在评测中纳入文档债务指标,但结论限于三个案例与两款模型。
来源:arXiv Artificial Intelligence · arxiv.org