arXiv Artificial Intelligence· Haozhe Hu, Hao Wu, Peiran Yin, Chao Han, Yunpu Ma, Xiaoyu Shen·2026-10-20 12:00· 3 小时前AI 评分31

WIDE：面向 LLM 推理的 token 级动态宽度剪枝框架

WIDE: Boosting Adaptive LLM Inference via Token-level Dynamic Width Pruning

AI 导读

WIDE 是首个将 token 级结构化动态宽度剪枝与 GPU kernel 协同设计的端到端可微框架，同时覆盖 prefill 与 decoding 阶段。