跳到正文
arXiv Artificial Intelligence· Jingnan Zheng, Yanzhen Luo, Jingjun Xu, Bingnan Liu, Yuxin Chen, Chenhang Cui, Gelei Deng, Chaochao Lu, Xiang Wang, An Zhang, Tat-Seng Chua·· 18 小时前AI 评分40

Risky-Bench:评估生活辅助场景中智能体的真实安全风险

Risky-Bench: Evaluating Agentic Safety Risks in Real-World Life-Assist Deployments

AI 导读

Risky-Bench 是一个面向生活辅助场景的智能体安全评估框架,从领域无关的安全原则推导出情境化安全准则,并按分层攻击面在真实任务执行中探测风险。该框架覆盖外卖配送、到店协助和在线旅行预订场景,在 750 项任务上评估了七个前沿智能体,攻击成功率介于 25% 至 60%,暴露出威胁模型特定漏洞、攻击面依赖的风险集中以及显式推理的模型依赖效应。代码与数据已公开。

来源:arXiv Artificial Intelligence · arxiv.org