arXiv Artificial Intelligence· Leon Sick, Lukas Hoyer, Yannick Str\"umpler, Christian Reisswig, Timo Ropinski, Federico Tombari·· 2 小时前AI 评分34
On-Policy Self-Training：大语言模型无需数据的自我改进
On-Policy Self-Training: Data-Free Self-Improvement in Large Language Models
AI 导读
研究将 on-policy 自蒸馏重构为自训练框架，模型仅凭粗粒度高层主题描述即可自行合成问题与特权推理演示，无需真实问答对、人工题目集或任何监督信号。该框架在文本与多模态领域均实现一致的自我改进，在标准语言基准和视觉问答（VQA）上取得提升，且在未自训练的领域保留原有能力。结果表明基础模型具备丰富的潜在能力，可在无外部任务监督下被放大。
来源：arXiv Artificial Intelligence · arxiv.org