arXiv Artificial Intelligence· Hao Chen, Wenhui Dong, Ye Chen, Jiezhi Yao, Chenbo Xia, Yuwen Qu, Renxiang Wang, Fudong Yuan, Camil Hamami, Chenglong Pan, Xinquan Yue, Ziyu Wang, Fengyu Ye, Chenyang Si, Caifeng Shan·· 3 小时前AI 评分47
CoSec:评估 LLM 智能体在社区环境中的安全基准
CoSec: Benchmarking Agent Security in Communities
AI 导读
CoSec 是面向 LLM 智能体社区场景的可执行安全基准,包含 208 个规范场景,覆盖固定与动态社区边界、受保护信息及对话、环境内容、持久记忆和组合工作流等攻击面。它通过执行轨迹和产物核验信息流是否符合当前授权状态。测试显示智能体常能完成正常任务,却频繁突破隐私与授权边界,任务效用并不等于合规。
来源:arXiv Artificial Intelligence · arxiv.org