arXiv Artificial Intelligence· Yuanhe Li, Jiazhen Wu, Dian Ding, Guangtao Xue, Yiming Zhang·· 13 小时前AI 评分31
DataHelix：面向多模态模型训练的 CPU-GPU 协同调度数据平面
DataHelix: A CPU-GPU Co-Scheduling Data Plane for Multimodal Model Training
AI 导读
DataHelix 是面向多模态模型训练的 CPU-GPU 协同调度数据平面，以元数据优先的方式在样本仍为轻量描述符时决定放置，把每个 GPU 计算窗口当作下一批次的就绪预算，跨 rank 协调预处理以减少截止期错失。
推荐理由模型分析
DataHelix 针对多模态训练中样本解码成本、token 数和张量大小差异导致的 CPU 预处理与 GPU 计算跨 rank 异构问题，提出元数据优先的 CPU-GPU 协同调度数据面，在样本仍为轻量描述符时决定放置，并用描述符级批处理与成本门控的集合重平衡减少流水线气泡。在 8 张昇腾 910B 上对 11 个视频与多模态负载，报告平均截止期错过率降低 67.8%、p95 输入等待延迟降低 87.0%，吞吐为 rank 本地 DataLoader 的 2.72 倍、Ray actor 池的 1.82 倍。适合训练数据管道与分布式调度开发者参考其协同思路和比较基线，但结果限于特定硬件与负载，跨集群迁移需自行验证。
来源：arXiv Artificial Intelligence · arxiv.org