arXiv Artificial Intelligence· Ya Gao, Zhengtao Zou, Pekka Marttinen·· 2 小时前AI 评分38
超越 On-Policy 与 Off-Policy:LLM 智能体蒸馏应在哪个层面跟随学生模型?
Beyond On-Policy vs. Off-Policy: At What Level Should LLM Agent Distillation Follow the Student?
AI 导读
研究提出分层智能体蒸馏框架,将 on-policy 程度拆分为交互历史与动作 token 前缀两个层面,并可在配对、混合比例和训练计划上显式控制。
来源:arXiv Artificial Intelligence · arxiv.org