跳到正文
原文
AGI Hunt· StasBekman·· 4 小时前AI 评分46

PyTorch 新文档揭示 Grace 架构 .cpu() 隐性瓶颈:复用 pinned 缓冲区

PyTorch 新文档揭 Grace 架构 .cpu() 隐性瓶颈:复用 pinned 缓冲区

AI 导读

NVIDIA 的 Krishna Kalyan 为 PyTorch 提交文档 PR,指出 NVLink-C2C 系统(Grace Hopper、Grace Blackwell)上 CPU↔GPU 拷贝瓶颈在 CPU 侧而非带宽。

来源:AGI Hunt · agihunt.info