Apple发布三模态掩码扩散模型研究

2026年10月14日，Apple Machine Learning Research 发布研究，提出首个从零预训练的三模态掩码扩散模型（MDM），在文本、图文和音频-文本数据上统一训练。该研究系统分析多模态缩放规律、模态混合比例、噪声调度与批大小的影响，并基于 SDE 重参数化将物理批大小与逻辑批大小解耦，免去最优批大小调参。初步模型在 3B 规模、6.4T token 下，于文本生成、T2I 和 T2S 任务均取得强劲结果。报道称其“Diverging from previous approaches”，为首次从零预训练的三模态 MDM。目前进展为研究发布与初步验证，尚无后续跟进报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。