提出ObligationBench与ObligationGuard评估义务识别

2026年10月15日，arXiv Artificial Intelligence 刊出 Youwei Feng 等作者的报道，针对 LLM 智能体安全提出仅识别禁止动作并不足够，还需识别应做而未做的安全关键动作（义务）。作者提出并发布义务识别基准 ObligationBench，称其为首个评估义务识别能力的基准，包含 240 条经专家验证的轨迹，覆盖问题解决、功能开发与终端操作。其初步研究显示，在热门安全基准上，56.92% 的 GLM-5.3 轨迹含未履行义务，而含禁止动作的仅 30.00%。对 14 个代表性模型的评估显示，最高召回率与精确匹配率分别仅为 48.97% 和 10.00%。作者同时提出 ObligationGuard，称其达到 57.52% 召回率与 21.67% 精确匹配率，在这两项指标上超过所有被评估模型。代码、数据与补充材料见报道给出的链接。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。