arXiv Artificial Intelligence· Yiyang Fu, Zihao Huang, Dongchen Han, Shukai Gong, Zhen Dong, Qiyang Min, Daquan Zhou·· 20 小时前AI 评分27
Multi-Ratio ConceptMoE：单模型支持多计算预算，跨轮次灵活分配算力
One Model, Multiple Compute Budgets: Multi-Ratio ConceptMoE for Flexible Compute Across Turns
AI 导读
Multi-Ratio ConceptMoE 在共享骨干内同时支持 2、4、8 三种 token-to-concept 压缩比（CR2/CR4/CR8），通过比例专属边界路由器和跨比例训练实现同一上下文内的混合比例处理。
来源：arXiv Artificial Intelligence · arxiv.org