arXiv Robotics· Shenli Zheng, Zhou Fang, Yuan Du, Yijiang Liu, Li Du·· 2 小时前AI 评分40
SPAR:面向视觉-语言-动作模型的结构化剪枝与动作恢复
SPAR: Structural Pruning and Action Recovery for Vision-Language-Action Models
AI 导读
SPAR 通过剪枝感知微调同时裁剪 LLM 主干的隐藏层与前馈中间维度,再用强化学习恢复策略性能。应用于 π₀.₅ 后,语言主干从 2.34B 降至 0.09B、全模型从 3.37B 降至 1.12B,分别去除约 96% 和 67% 参数。该压缩水平下 RL 将四个 LIBERO 套件平均成功率从 84.55% 提升至 93.45%,推理提速 1.98 倍。
来源:arXiv Robotics · arxiv.org