OP-Mix：跨阶段数据混合算法提出

2026年10月30日，arXiv 人工智能板块刊出 Michael Y. Hu 等作者的论文，提出名为 OP-Mix（On-Policy Mix）的数据混合算法，覆盖预训练、中训练与指令微调全流程。报道称，该方法通过在当前模型上训练的低秩适配器之间插值，低成本模拟候选数据配比，无需单独的代理模型。效果方面，报道称预训练阶段 OP-Mix 相比不做混合的训练，平均困惑度改善 6.3%；在持续学习场景下，它以分别减少 66% 和 95% 的总计算量，达到重训练与 on-policy 蒸馏的效果。目前该事件仅有这一篇主报道，尚无跟进报道，也未出现数字或说法上的前后矛盾。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。