跳到正文
arXiv Artificial Intelligence· Yizhou Zhao, Zhiwei Steven Wu, Adam Block·· 3 小时前AI 评分31

MarkTune:改善模型内嵌 LLM 水印质量与可检测性权衡

MarkTune: Improving the Quality-Detectability Trade-off in Model-Embedded LLM Watermarking

AI 导读

MarkTune 是一个基于 on-policy 微调的模型内嵌 LLM 水印框架,以 GaussMark 检测统计量作为奖励,并通过高质量人类文本的交叉熵或对更强 oracle 模型的 KL 散度保持生成质量。它显著改善了 GaussMark 的质量-可检测性前沿,检测能力接近强推理时方案,同时保持生成质量与下游任务表现。该方法在文本编辑和开放权重攻击下仍具鲁棒性,并可泛化到训练中未见语料。

来源:arXiv Artificial Intelligence · arxiv.org