跳到正文
arXiv Artificial Intelligence· Keegan Wang·· 18 小时前AI 评分34

在 LLM 上迭代,在 SLM 上部署:用 GPT-5.4-nano 蒸馏 Qwen3-8B 做居家护理调度

Iterate on an LLM, Serve on an SLM

AI 导读

研究者提出先在 GPT-5.4-nano 等前沿模型上用真实流量反馈打磨提示词行为,收敛后再把记录下来的生产行为通过 SFT 蒸馏进小模型。在居家护理调度智能体上,用 11.6k 条生产决策训练的 LoRA 微调 Qwen3-8B 与教师模型一致率达 0.913,而 GPT-5.4-nano 重跑自身记录提示词的自一致率仅 72.7%。

来源:arXiv Artificial Intelligence · arxiv.org