4×RTX PRO 6000 本地跑 DeepSeek，16 并发达 2120 tok/s

2026 年 10 月 28 日，有报道称用户 0xSero 在自建本地硬件上实测运行 DeepSeek 模型。这套硬件由 4 块 RTX PRO 6000 组成，成本约 7.5 万美元。实测结果显示，在 16 路并发会话下，总解码速度达到 2120 tok/s；当同时运行多个带子智能体（sub-agent）的会话时，每一路仍能获得 120+ tok/s 的解码速度。该报道仅给出了上述实测数字与硬件配置，未披露所用 DeepSeek 具体型号、量化精度、上下文长度及测试方法等细节。目前事件仍处于单次个人实测分享阶段，尚无官方或第三方复现数据，也未出现与上述数字相矛盾的后续报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。