跳到正文
arXiv Artificial Intelligence· Yiheng Sun, Huifei Wang, Yancheng Zhu, Zhenyu Li, Zebin Zhao, Yifan Yuan·· 19 小时前AI 评分40

LLM 智能体交接中工作流约束的侵蚀:从"必须"到"或许"

When "Must" Becomes "Maybe": Erosion of Workflow Constraints in LLM Agent Handoffs

AI 导读

LLM 智能体通过摘要和计划等中间产物接力工作时,会把上游已确立的判断从"必须满足"弱化为"或许可以搁置"。实验在保持上游检测正确、来源权限不变的前提下,压缩、计划同化、收敛、归属延迟和先例替换等交接方式反复削弱安全阻断条件,其中归属延迟导致 76.7% 阻断失效,多跳压缩达 97.2%。

来源:arXiv Artificial Intelligence · arxiv.org