arXiv Artificial Intelligence· Tushar Nayan, Pratik Poudel, Qian Lou, Yuede Ji, Jason Liu, Ruimin Sun·· 19 小时前AI 评分36
AdvGuard：检测与缓解基于查询的系统提示词泄露攻击
Detecting and Mitigating Query-Based System Prompt Leakage Attacks
AI 导读
AdvGuard 是一个模型无关的框架，用于检测和缓解 LLM 系统提示词泄露攻击，通过有界语义交互图建模跨查询关系并转为线图供 GCN 分类。在混合查询评测中，其召回率最高提升 36%，误报率不超过 3.4%；多轮负载下 F1 达 97.23%-99.1%，召回率 100%。
来源：arXiv Artificial Intelligence · arxiv.org