Meta 如何将闲置 AI 推理容量转化为更好的广告推荐

Meta 构建了一套利用集群闲置推理容量的系统来提升广告推荐效果，通过 Rank More Ads（RMA）和 Serve Better Models（SBM）两个弹性杠杆，在不影响基线性能的前提下扩展可选工作负载。RMA 调整排序阶段评估的候选广告数量，SBM 调整路由到更强模型的请求比例，二者配合物理与逻辑隔离及价值感知降载机制，在容量被突然回收时保护延迟与可靠性。