AGI Hunt· StasBekman·· 4 小时前AI 评分46
PyTorch 新文档揭示 Grace 架构 .cpu() 隐性瓶颈:复用 pinned 缓冲区
PyTorch 新文档揭 Grace 架构 .cpu() 隐性瓶颈:复用 pinned 缓冲区
AI 导读
NVIDIA 的 Krishna Kalyan 为 PyTorch 提交文档 PR,指出 NVLink-C2C 系统(Grace Hopper、Grace Blackwell)上 CPU↔GPU 拷贝瓶颈在 CPU 侧而非带宽。
来源:AGI Hunt · agihunt.info