跳到正文
原文
AGI Hunt· sguada·· 2 小时前AI 评分50

开源编译器 Latch 从 PyTorch 生成训练 megakernel,H100 上提速 2.75 倍

AI 导读

独立研究者 deepaksinghml 开源编译器 Latch,可直接从 PyTorch 代码生成训练 megakernel。H100 实测中 TinyMoE(batch 2×1024)每步 13.6–13.8ms,较 Compiled PyTorch 的 37.5–38.4ms 快 2.75 倍;达到 loss 3.30 用时 857s 对 1432s,省 40% 时间。

来源:AGI Hunt · agihunt.info