跳到正文
原文
AGI Hunt· AlpinDale·· 3 小时前AI 评分59

CUDA 隐藏坑点:默认 8 工作队列可致 GPU 任务假依赖串行

AI 导读

AlpinDale 引用 NVIDIA CUDA 文档指出,环境变量 CUDADEVICEMAXCONNECTIONS 控制并发计算与拷贝引擎的工作队列数量,取值 1-32、默认 8,不同 CUDA stream 上的独立任务映射到同一工作队列时会产生假依赖,导致 GPU 任务被串行化。

来源:AGI Hunt · agihunt.info