跳到正文
arXiv Artificial Intelligence· Yuannuo Feng, Yubing Ye, Wenshuai Yao, Yizhe Chen, Ngai Wong, Wenyong Zhou, Wang Kang·· 4 小时前AI 评分38

SetCommit:面向少步扩散语言模型解码的协同 token 提交方法

SetCommit: Coordinated Token Commitments for Few-Step Diffusion Language Model Decoding

AI 导读

SetCommit 是一种无需训练、无需改架构的协同并行 token 提交方法,用于少步扩散语言模型解码,通过平衡 token 可靠性与局部联合提交风险,并做预算中性的局部替换来修正早期提交。

来源:arXiv Artificial Intelligence · arxiv.org