AGI Hunt· RisingSayak·· 4 小时前AI 评分44
Diffusers 张量并行加载升级,Flux.2-Dev 提速 2.4 倍
AI 导读
Hugging Face Diffusers 的张量并行加载能力升级,在 Flux.2-Dev DiT 模型上以 TP 度为 4(A10G GPU)加载时,耗时从 30 秒以上显著缩短,提速达 2.4 倍。由 JingyaHuang 合并的 PR #14544 让 .frompretrained() 在读取时按分片边读边切分,可节省约 89% 的 CPU 内存。
来源:AGI Hunt · agihunt.info