arXiv Artificial Intelligence· Tianhao Guo·2026-10-15 12:00· 18 小时前AI 评分23

逐层量化中补偿继承量化误差何时有效？均方保证及其边界

When Does Compensating Inherited Quantization Error Help? Mean-Square Guarantees for Layer-Wise Quantization and Their Limits

AI 导读

研究逐层训练后量化中，各层补偿前层继承量化误差在何种假设下能保证网络输出误差不高于不补偿。对任意深度线性网络，在校准 Gram 矩阵可逆、各层舍入误差条件均值为零且二阶矩映射相同时，强度固定在 [0,1] 的补偿可给出不劣于不补偿的均方输出误差。