Reddit用户晒3360美元本地推理主机配置求速率建议

2026年10月26日，AGI Hunt 报道一位 Reddit 用户晒出自己的本地大模型推理主机配置并公开征求速率建议。整机花费约 3360 美元，显卡为 2 张 16GB 的 RTX 4060 Ti 加 1 张 12GB 的 RTX 4070，合计 44GB 显存；处理器选用线程撕裂者 3960X，搭配 256GB DDR4 四通道 3200MHz 内存。该用户指出，约 100GB/s 的内存带宽是这套配置的主要瓶颈。他目前用它运行 Qwen 27B、256K 上下文，并希望进一步尝试 DeepSeek、GLM 等更大模型，因此向网友询问在这套硬件上能拿到怎样的 token/s。报道未提及网友给出的具体答复或实测数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。