arXiv Artificial Intelligence· Anning Hu, Yangyu Li, Yuqi Huang, Shengchao Hu, Junchi Yan·· 18 小时前AI 评分24
StableJudge:面向 LLM-as-a-Judge 的轻量级对抗防御框架
StableJudge: A Lightweight Adversarial Defense Framework for LLM-as-a-Judge
AI 导读
StableJudge 是一个轻量级防御框架,将提示注入缓解外置为可复用的评分前能力,核心是 0.13B 的 Sentry 模型,可在评估前定位并定向清洗被注入的文本片段,并采用对抗性演化攻击训练。该框架从裁判模型的输出分布中导出确定性的细粒度标量分数,在留出科学摘要和分布外攻击变体上提升了受攻击时的分数恢复能力,同时基本保持通用性能。代码与数据将发布。
来源:arXiv Artificial Intelligence · arxiv.org