跳到正文
原文
AGI Hunt· _reachsumit·· 2 小时前AI 评分45

Meta 论文:推荐系统训练中仅 50-60% 时间真正在训练

AI 导读

Meta 在 arXiv 发文称,最大规模推荐系统训练集群(数千 GPU、日处理数百亿样本)仅 50-60% 端到端时间用于训练新数据。论文提出 ETT% 指标量化损失时间并定位到可独立归属的基础设施组件。优化涵盖 trainer 初始化通信消除、异步 checkpointing,实际集群验证 ETT% 全面提升。

来源:AGI Hunt · agihunt.info