arXiv Artificial Intelligence· Chao Gu, Quanyan Zhu·· 3 小时前AI 评分36
面向智能体 AI 的经认证执行框架:推理与行动之间安全且最小侵入的 Petri 网监督控制
Certified Execution Harness for Agentic AI: Safe and Least-Intrusive Petri-Net Supervisory Control Between Reasoning and Action
AI 导读
研究用 Petri 网把 LLM 智能体与工具之间的执行框架形式化为监督控制问题,以标记表示能力、审批与预算,前置条件未满足或已耗尽的注入请求会被拒绝。作者引入重规划闭环,证明传统最大许可监督器可能比更严格的安全监督器侵入性任意更大,并将最小侵入监督器刻画为传统监督器的价值阈值细化。在自主发布智能体上,合成结果表明安全部署需要一个监督器能在 rollout 开始后拒绝的步骤。
来源:arXiv Artificial Intelligence · arxiv.org