跳到正文
arXiv Artificial Intelligence· Ya Gao, Zhengtao Zou, Pekka Marttinen·· 2 小时前AI 评分38

超越 On-Policy 与 Off-Policy:LLM 智能体蒸馏应在哪个层面跟随学生模型?

Beyond On-Policy vs. Off-Policy: At What Level Should LLM Agent Distillation Follow the Student?

AI 导读

研究提出分层智能体蒸馏框架,将 on-policy 程度拆分为交互历史与动作 token 前缀两个层面,并可在配对、混合比例和训练计划上显式控制。

来源:arXiv Artificial Intelligence · arxiv.org