AURA-Eval：评估LLM智能体风险感知的框架

2026年10月20日，arXiv Artificial Intelligence 刊出 Ruoxi Shang 等作者的论文，提出并发布 AURA-Eval 框架，用于评估 LLM 智能体能否识别情境风险并相应调整行为。该框架的做法是：把工具使用轨迹截断到安全关键决策点，让模型生成下一步思考与动作，据此判断智能体是否识别风险并调整行为。评测集基于 157 条 R-Judge 种子轨迹构建，共 1,249 个评测项，覆盖六类风险机制；评测对象为 20 个模型，包括前沿模型、开放权重模型与安全微调模型。目前报道仅介绍框架设计与评测集构成，未披露各模型的具体评测结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。