Meta 公布广告排序多阶段序列建模架构与 LLM 式扩展规律

Meta 公布广告排序的多阶段序列建模架构，把离线用户建模与在线排序解耦，并在真实广告流量上呈现出随算力对数线性增长的 LLM 式扩展规律。该架构用稠密 tokenization 与 target-aware 多头注意力融合稀疏特征和用户行为序列，让模型直接从数据学习特征交互，减少对手工特征的依赖。