arXiv Systems and Control · Engineering Energy· Yu Ma, Ziheng Sheng, Anna Andriiko, Chau-Wai Wong, Jong Ha Woo, Zishuo Yang, Aaditya Pandey, Wenyuan Tang, Ning Lu·· 5 小时前AI 评分31
通过推理负载调度重塑检查点引发的功率波动
Reshaping Checkpoint-Induced Power Variations Through Inference Workload Scheduling
AI 导读
针对大语言模型训练中同步检查点引发的快速功率波动，研究提出一种检查点感知双层框架，调度灵活的推理负载来补偿扰动：上层协调异构任务的选择与启动时间，下层在线调整新启动任务的批大小以修正功率跟踪误差，并通过提前启动（EL）与分阶段退出（SR）平滑检查点发生与恢复时的功率过渡。
推荐理由模型分析
针对大模型同步检查点造成的功率骤变，论文用可调度的推理负载做补偿，上层选任务与启动时刻、下层在线调批大小，并在PSCAD/EMTDC中量化频率偏差与储能充放电的下降幅度。适合关注数据中心微网、GPU负载与储能协同的工程人员参考其分层控制思路，但结论来自仿真，且优势以GPU资源较充裕为前提。
来源：arXiv Systems and Control · Engineering Energy · arxiv.org