arXiv Artificial Intelligence· Junhao Liu, Tianxiao Li, Yongxian Wu, Ziheng Duan, Ren Li, Jing Zhang, Martin Renqiang Min·· 2 小时前AI 评分34
审计 Agentic LLM 的工具轨迹：来源定位与反事实依赖测试
Auditing Tool Traces in Agentic LLMs: Source Localization and Counterfactual Dependence Testing
AI 导读
研究提出两阶段审计方法，用于识别 Agentic LLM 工具调用轨迹中隐藏的标签捷径。第一阶段 PT2D 将标签预测性模式定位到单个工具结果，第二阶段 Token-Class Redaction 反事实检验冻结模型是否依赖该捷径。在 TCR-pMHC 结合预测任务中，工具增强显著优于无证据基线，但审计发现最强信号来自某一工具结果中的标识符，将其删除后性能降至随机水平。
来源：arXiv Artificial Intelligence · arxiv.org