跳到正文
arXiv Artificial Intelligence· Wenbin Chen, Jiexin Wang, Guanting Wu, Jiaxi Liang, Yi Cai·· 18 小时前AI 评分30

SpecCloak:用工程规格模板探测 LLM 有害代码生成

SpecCloak: Probing Harmful Code Generation through Engineering Specifications

AI 导读

研究者提出 PseudoSpec 模板,将功能需求组织为工程规格,在五个开源权重模型上发现规格化提示能显著降低拒绝率,即使保留风险关键词亦然。基于此构建的黑盒红队框架 SpecCloak 结合判别器引导优化,在 RedCode-Gen 上对八个目标模型实现平均 28.91% 的执行验证攻击成功率。防御原型 SpecReveal 无需微调目标模型,在提示检测评估中达到 96.88% 的攻击检测率。

来源:arXiv Artificial Intelligence · arxiv.org