跳到正文
原文
AGI Hunt· _reachsumit·· 6 小时前AI 评分39

CutBCE:Google JAX TPU 核消除大规模推荐 BCE 训练 OOM,提速 91.9%

AI 导读

CutBCE 是面向工业级序列推荐的精确、硬件加速大词表 BCE 损失与梯度算子,用 JAX + Pallas 实现,可覆盖 10^5–10^7 规模商品目录。单芯片 TPU v5e/v6e 小基准上消除 OOM,最高提速 91.9%。8 芯片 TPU 训练 87.6 万商品的多标签 SASRec(Yambda-50M)时,峰值 HBM 降低 65.7%。

来源:AGI Hunt · agihunt.info