跳到正文
arXiv Artificial Intelligence· Ruiyang Qin, Qingzhuo Wang, Dongrui Liu, Qiang Li, Zhihua Wei, Wen Shen·· 3 小时前AI 评分31

多语言自蒸馏:MSD 框架实现跨语言安全对齐

Multilingual Safety Alignment via Self-Distillation

AI 导读

研究者提出多语言自蒸馏框架 MSD,将 LLM 的安全能力从高资源语言(如英语)迁移到低资源语言(如爪哇语),无需任何语言的回复数据。该框架实现 on-policy MSD 与 off-policy MSD 两种方法,仅用多语言查询即可完成安全迁移,并提出 Dual-Perspective Safety Weighting(DPSW)散度度量优化蒸馏目标。

来源:arXiv Artificial Intelligence · arxiv.org