跳到正文
原文
AGI Hunt· Otherwise-Tangelo-52·· 10 小时前AI 评分17

RTX 4000 Blackwell 24GB 能否与旧 3060 12GB 组合跑本地大模型

AI 导读

Reddit 用户 Otherwise-Tangelo-52 以低于原价购入 Blackwell 架构的 RTX 4000 24GB,想与手上的旧 RTX 3060 12GB 组合(tensor split)本地加载大模型跑编程任务并留出安全余量。这是本地部署中常见的异构双卡问题,社区通常会讨论 llama.cpp 的 tensor split、不同带宽显存的权衡及驱动支持情况。

来源:AGI Hunt · agihunt.info