AGI Hunt· hedgehog0·· 3 小时前AI 评分23
RTX 5060 Ti 与 AMD 7900XTX 混跑 LLM:CUDA 与 ROCm 能同时用吗
5060 Ti 配 7900XTX 混跑 LLM:CUDA 与 ROCm 能同时用吗
AI 导读
有开发者用 RTX 5060 Ti 16GB 搭建 LLM 工作站,因显存有限考虑加装第二张 GPU,把目光投向 AMD 7900XTX,并向社区求证 N 卡 CUDA 与 A 卡 ROCm 能否同时协同工作。他提到主要用途是微调、推理和学习 kernel 编程,并认为 Intel 的软件栈可能比 ROCm 更不成熟。其放弃 5090 是因价格太贵,5080 的 24GB 版本目前只是传闻。
来源:AGI Hunt · agihunt.info