提出基于运行时监控的智能体策略强制执行方法

2026年10月15日，arXiv Artificial Intelligence 刊出 Nils Palumbo 等作者的论文，提出一种基于运行时监控的 AI 智能体安全方法。该工作针对 AI 智能体系统易受攻击、现有防护粒度粗且缺乏形式化正确性保证的问题：用户使用 Datalog 指定策略，系统通过构建事件图在运行时执行；当智能体即将执行工具调用等动作时，方法结合当前系统状态与历史事件判断该动作是否违反策略，并据此阻止或放行。作者已实现该方法并在多个 benchmark 上评估，验证其在真实场景中的效果。论文称其提出了一种基于运行时监控的智能体安全新方法。目前进展为论文发布与实验评估，尚无其他跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。