聚类最优传输引导研究：量化下的表现

2026年10月30日，Illia Makarov 在 arXiv 提交论文，研究用于毒性缓解的聚类最优传输激活引导，实验对象为 Gemma-2-2B 和 Granite-3.1-2B。作者考察这一族聚类最优传输映射相对于 DiM 的增量，以及该增量能否在 INT8 和 NF4 量化下保持。报道称，作者证明按簇大小加权平均后位移恒等于 DiM，CHaRS 在全部八项预设等价检验中与逐层加 DiM 的 Mean-AcT 统计等价。量化方面，报道称在 INT8 和 NF4 下该变体残留毒性仍低于 DiM，且将全精度版本迁移到 NF4 模型而非重新拟合，经多重检验校正后未带来显著毒性增加。上述结论均限于报道所述模型与量化条件。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。