跳到正文
原文
AGI Hunt· scaling01·· 4 小时前AI 评分41

英伟达 Rubin NVL72 跑 Kimi K3 达每用户 850 tokens/s

AI 导读

英伟达提交首个基于 Rubin NVL72 的 Kimi K2.5/K3 推理提交,在 2.8 万亿参数下每用户吞吐超 850 tokens/s。该提交在 vLLM 上吞吐提升 3 倍以上。Rubin Software 1.0 GA 即将推出。

来源:AGI Hunt · agihunt.info