跳到正文
arXiv Computer Vision· Reem Abdel-Salam, Ahmed H. Abdel-Gawad, Amr G. Wassal·· 20 小时前AI 评分22

VLCQ:用可变长度编码实现深度神经网络训练后量化

VLCQ: Post-training quantization for deep neural networks using variable length coding

AI 导读

VLCQ 是一种基于可变长度编码的训练后量化方法,放松了定点编码约束,无需访问训练数据或微调模型即可降低比特宽度。在图像分类、分割和检测任务上,逐通道量化最高实现较 FP32 6 倍、较 PWLQ 1.7 倍压缩,并超过 FP32 与 PWLQ 精度;优先压缩时较 FP32 最高 12.25 倍压缩,性能下降不足 4%。逐张量量化与 DFQ 相当,且在不同任务和模型上支持更低比特率。

来源:arXiv Computer Vision · arxiv.org