arXiv Artificial Intelligence· Justin Tan, Miao Li, Ding Zhao·· 3 小时前AI 评分58
AgentPhishing:面向自适应攻击的 LLM 邮件智能体钓鱼基准
AgentPhishing: A Benchmark of LLM Email Agents Under Adaptive Attack
AI 导读
作者提出 AgentPhishing 基准,用于评估有说服力的钓鱼攻击能否绕过检测并诱导 LLM 邮件智能体执行恶意请求,并开发 PhishOpt 在固定基准约束和真实性约束下针对单个智能体优化可复用的邮件生成技能。在九款智能体的评测中,四款钓鱼检测率低于 10%、恶意请求遵从率高于 45%;这些智能体能安全处理既有钓鱼邮件,却仍易受针对智能体行为调整的攻击影响。
来源:arXiv Artificial Intelligence · arxiv.org