arXiv Artificial Intelligence· Ying Zhang, Ruoqi Guo, Yi Liu, Gelei Deng, Yuekang Li, Yepang Liu, Leo Zhang·· 19 小时前AI 评分38
研究揭示 LLM 智能体提示词缓存错误集成问题,提出检测工具 CACHELINT
Silent and Costly: Characterizing and Detecting Prompt-Caching Mis-Integration in LLM Agents
AI 导读
研究对 10 个开源智能体系统的 120 个提示词缓存相关 PR 进行实证分析,发现错误集成多源于请求侧配置错误和读取侧用量统计错误,且多数不引发可观测的运行时故障。
来源:arXiv Artificial Intelligence · arxiv.org