审计Agent评测中的行为检测器研究

2026年10月23日，arXiv Artificial Intelligence 刊出 Idunnuoluwa A. Adeniji 等作者的论文，审计工具使用场景下轨迹级检测器的标签可靠性。研究在基于 GSM8K 的工具调用场景中审计了三个追踪级检测器，覆盖六个生产模型、每个模型 30 道题，发现最终正确性、可见复验与故障传播会系统性不一致。报道指出的关键失效模式是“静默覆盖工具输出”：计算器返回被污染的值后，模型改用另一个往往正确的值且不再调用工具，坏值不再传播，而复验检测器也未记录复检。目前该研究处于论文发布阶段，后续进展尚待跟进报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。