Meta 将闲置的 AI 推理容量转化为更优广告推荐

Meta 构建了一套系统，将车队闲置的推理容量汇集成共享机会容量池，用于提升广告推荐效果。系统通过 Rank More Ads（RMA）调整排序阶段候选广告数量，通过 Serve Better Models（SBM）调整路由到更强模型的请求比例。物理与逻辑隔离和价值感知降载，可在容量突然被回收时保护延迟与可靠性。