arXiv Artificial Intelligence· Md Asiful Islam, Fahmida Alam, Mihai Surdeanu·· 20 小时前AI 评分22
LR-Guard:通过潜在双假设推理与按需轨迹重建实现高效安全护栏
Efficient Safety Guardrails through Latent Dual-Hypothesis Reasoning with On-Demand Trace Reconstruction
AI 导读
LR-Guard 是一种高效可解释的安全护栏,通过将冻结教师模型对安全与不安全提示词解读的分析蒸馏为紧凑潜在表示,联合训练安全预测与教师显式推理轨迹重建,无需为每次决策生成中间文本。实验显示其在多数域内和域外安全分类与解释提取任务上优于显式推理教师模型,batch size 为 1 时推理提速 19.4 倍,重建的推理轨迹与教师显式推理语义相似度高。
来源:arXiv Artificial Intelligence · arxiv.org