arXiv Computer Vision· Xinmeng Liu, Xianglong Yan, Kaicheng Yang, Weisheng Dong, Yulun Zhang·· 20 小时前AI 评分22
HGA-Quant:面向自回归视觉生成模型的异构感知量化
HGA-Quant: Heterogeneity-Aware Quantization for AutoRegressive Visual Generation Models
AI 导读
HGA-Quant 是一个免训练的后训练量化(PTQ)框架,由尾部感知有界初始化网格精炼(T-BGR)与由粗到细激活精度调度(CAPS)组成,用于降低自回归视觉生成(ARVG)模型的计算与内存开销。在 Infinity 上,该框架以 W4A5.6 的有效激活精度实现接近全精度的图像生成质量,而现有方法在 W4A6 下仍出现明显质量下降或表现不稳定。代码已开源。
来源:arXiv Computer Vision · arxiv.org