跳到正文
原文
AGI Hunt· Sentdex·· 3 小时前AI 评分44

NVIDIA DGX Station 外接一张 RTX Pro 6000:DeepSeek V4.1 Flash 预填冲上 6 万 tok/s

DGX Station 外接一张 RTX Pro 6K:DeepSeek V4.1 Flash 预填冲上 6 万 tok/s

AI 导读

Sentdex 给 NVIDIA DGX Station GB300 外接一张 RTX Pro 6000 Blackwell Max-Q 作为 MoE「专家侧车」,跑 DeepSeek V4.1 Flash 时 prefill 达到约 60,000 tok/s,首字延迟(TTFT)体验极佳。

来源:AGI Hunt · agihunt.info