arXiv Artificial Intelligence· Parul Gupta, Satwik, Avni Aggarwal, Bhavesh Gurnani, Arnab Kumar Mondal, Dinesh Khandelwal, Dinesh Garg, Parag Singla·· 18 小时前AI 评分31
HMDLM:分层掩码扩散语言模型
Hierarchical Masked Diffusion Language Models
AI 导读
HMDLM 为每个 token 位置附加层级标签,将生成拆成两步:先预测掩码位置的层级分布,再据此预测 token 分布,并为各层级设置独立噪声调度,在保持并行解码的同时优先揭示高优先级位置。
来源:arXiv Artificial Intelligence · arxiv.org