arXiv Artificial Intelligence· Kevin Liang, Litao Qiao, Isaac Keslassy, Bill Lin·· 19 小时前AI 评分24
Spectra:为 AI 训练调度并行光电路交换机
Scheduling Parallel Optical Circuit Switches for AI Training
AI 导读
Spectra 通过将流量矩阵分解为加权置换、按负载感知分配到并行 OCS,并用受控置换拆分均衡负载,在重配置延迟 δ 下最小化调度 makespan。在 GPT 训练负载上平均缩短 1.4 倍,Qwen MoE 专家路由负载上缩短 2.7 倍,标准基准上缩短 2.4 倍,且结果持续逼近新推导的下界。
来源:arXiv Artificial Intelligence · arxiv.org