arXiv Artificial Intelligence· Jingyue Cong, Estrid He, Zhuang Li, Nan Wu, Li Shen, Yameng Peng, Xinshu Li, Andy Song·· 18 小时前AI 评分39
LatentRiskBench：衡量企业智能体的状态依赖风险
LatentRiskBench: Measuring State-Dependent Risks in Enterprise Agents
AI 导读
研究者提出 LatentRiskBench，用于评估企业智能体中依赖工作流状态的安全风险，其将风险轨迹与共享同一终端动作但潜在策略状态不同的良性轨迹配对。实验显示，动作级评估仅能检出 0.09 的状态依赖违规，而状态级评估可达 0.96，现有护栏方法若不显式应用于工作流状态则大多无法识别此类风险。该基准已被 EMNLP 2026 Industry Track 接收，数据集与代码已公开。
来源：arXiv Artificial Intelligence · arxiv.org