Petri网监督控制护航Agent工具执行

2026年10月23日，arXiv人工智能板块刊出Chao Gu与Quanyan Zhu的研究，针对大语言模型（LLM）智能体在提示注入下的工具执行安全问题，提出以Petri网监督控制形式化智能体与工具之间的执行框架。该框架用标记表示能力、审批与预算，前置条件未满足或已耗尽的注入请求会被拒绝。作者引入重规划闭环，证明传统最大许可监督器可能比更严格的安全监督器侵入性任意更大，并将最小侵入监督器刻画为传统监督器的价值阈值细化。在自主发布智能体上的合成结果表明，安全部署需要一个能在rollout开始后拒绝的监督器。目前该工作处于论文发布阶段，尚无后续跟进报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。