大模型无数据自训练框架提出

2026年10月26日，arXiv Artificial Intelligence 刊出 Leon Sick 等作者的论文，提出一种无需数据的在线自训练框架。该研究将 on-policy 自蒸馏重构为自训练框架：模型仅凭粗粒度高层主题描述，即可自行合成问题与特权推理演示，无需真实问答对、人工题目集或任何监督信号。报道称，该框架在文本与多模态领域均实现一致的自我改进，在标准语言基准和视觉问答（VQA）上取得提升，且在未自训练的领域保留原有能力。作者据此表示，基础模型具备丰富的潜在能力，可在无外部任务监督下被放大。目前该工作处于论文发布阶段，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。