跳到正文
热点事件持续更新

研究者提出角色接地攻击RGA

1 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

2026年10月30日,arXiv Artificial Intelligence 刊出 Haoran Bu 等作者的论文,提出并形式化“角色接地攻击”(Role Grounding Attack,RGA)。该攻击利用嵌套对话结构,让受害 Agent 在记忆阶段把攻击者的偏好错误记成自己用户的偏好,从而在记忆检索阶段持续影响其决策。报道称,RGA 可实例化为工具选择操纵和隐私泄露两类后果,并在五种主流记忆系统与六种语言模型上均取得高攻击成功率。作者在论文中表示,他们是首个形式化 RGA 的工作,该攻击模型通过嵌套对话结构利用这一漏洞。截至本版,尚无后续跟进报道,事件进展以该主报道为准。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. arXiv Artificial Intelligence
    基于社交互动的角色锚定攻击:让 Agent 记忆误认用户偏好

    研究者提出角色锚定攻击(RGA),利用嵌套对话结构让受害 Agent 把攻击者的偏好错误记成自己用户的偏好,在记忆检索阶段持续影响决策。该攻击可实例化为工具选择操纵和隐私泄露,在五种主流记忆系统与六种语言模型上均取得高攻击成功率。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。