审计智能体工具交互中的静默失败

2026年10月15日，arXiv Artificial Intelligence 刊出 Devansh Singh 等作者的研究，考察智能体与工具交互中一类特定失败：工具调用看似成功，但通过其 API 或 wrapper 返回的信息或功能不完整或缺失，且未向用户或智能体作任何说明，即“静默失败”。研究团队开发了审计机制，在 ToolUniverse 环境中检查 15 个科学工具及其 API 与工具文档。作者称，经基于 LLM 的候选发现与自动化测试后人工验证，共观察到 91 个失败，最常见的是数据或字段缺失，以及搜索、过滤或排序标准不一致；其中多数发生在 API 层（52 个）或 wrapper 层（25 个），并可能在下游被放大。作者同时说明，ToolUniverse 是实验环境，而非研究本身的对象。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。