跳到正文
arXiv Artificial Intelligence· Yichi Zhang, Zhiqi Wang, Neil Gong, Yuchen Yang·· 19 小时前AI 评分37

面向大语言模型的安全投机解码 SecureSD 研究

Secure Speculative Decoding for Large Language Models

AI 导读

研究首次系统考察投机解码的安全影响,发现各类有损投机解码方法存在明显的安全—效用不对称:越狱与提示注入攻击成功率的上升速度远快于效用下降。为此提出理论引导的 SecureSD,针对 draft 模型在解码早期位置生成的 token 采用更严格的验证标准。在安全与效用基准上的实验显示,SecureSD 在保持效率与效用的同时显著提升安全性。

来源:arXiv Artificial Intelligence · arxiv.org