跳到正文
arXiv Computer Vision· Rishav Pramanik, Marco Pedersoli, Zhaozheng Yin·· 7 小时前AI 评分38

让预训练自回归图像模型支持任意顺序生成

Unlocking Any-Order Generation in Pretrained Autoregressive Image Models

AI 导读

研究者提出一套适配方法,把预训练的栅格扫描自回归图像模型改造成任意顺序生成器,无需从头训练。方法包含未来感知位置嵌入和顺序课程,在 LlamaGen-L/XL、RAR-L/XL 四个模型上实现 ImageNet 修复 FID 6.21(MaskGIT 为 10.44),额外算力仅为预训练的 13-33%,且保留 KV caching、vLLM 等标准 AR 推理栈。

来源:arXiv Computer Vision · arxiv.org