跳到正文
arXiv Artificial Intelligence· Kashyap R Manjusha, Murali Emani·· 17 小时前AI 评分47

Poisoned Skills:越狱攻击如何通过 Agent Markdown 文件传播

Poisoned Skills: Propagating Jailbreaks Through Agent Markdown Files

AI 导读

研究者构建基于 LangChain 的问答 Agent,把结合人设操纵与 GPTFUZZER 攻击的越狱指令嵌入用户提供的 Markdown 技能文件,在 7 个开源权重模型和 9 类危害的 270 个禁止问题上测试,平均攻击成功率从良性系统提示词下的 0.5% 升至 45%,单个模型最高达 68.9%。

来源:arXiv Artificial Intelligence · arxiv.org