arXiv Artificial Intelligence· Moonseok Choi, Jongwon Jeong, Minki Kang, Giung Nam, Juho Lee·· 2 天前AI 评分31
SKIM：按 token 角色选择性掩码，剪枝结构化生成下的 LLM 智能体
SKIM: Pruning Large Language Model Agents via Selective Knowledge Informed Masking
AI 导读
SKIM 是首个面向结构化生成下 LLM 智能体的剪枝与蒸馏框架，按 token 角色将位置划分为上下文、决策与格式三类，并据此设计类别感知的剪枝显著性分数与 on-policy 蒸馏目标。在工具调用基准和多步智能体循环中，SKIM 在多个模型规模与稀疏度下均优于基线，高稀疏度区间提升最明显。该工作为部署时受语法约束的智能体压缩提供了新思路，论文被 NeurIPS 2026 接收。
来源：arXiv Artificial Intelligence · arxiv.org