arXiv Artificial Intelligence· Yilun Yao, Jiaming Pan, Elsie Dai, Peizhuang Cong, Chao-Hsuan Liu, Yaoming Li, Tong Yang·· 18 小时前AI 评分27
ConMoE：将 MoE 压缩视为专家选择与功能分配
ConMoE: MoE Compression as Expert Selection and Functional Assignment
AI 导读
ConMoE 把 MoE 专家压缩拆成"构建专家池"和"把原专家负载分配到池中"两步，在专家池固定后用路由器条件化的功能目标优化分配，仅以参数接近度作为代理，全程使用无标注校准输入并冻结路由器与专家权重。
来源：arXiv Artificial Intelligence · arxiv.org