跳到正文
原文
AGI Hunt· Alibaba_Qwen·· 4 小时前AI 评分48

TokenSpeed 在 4×GB300 上跑 Qwen3.8-Flash-Next,单用户 685 tokens/s

AI 导读

LightSeek Foundation 发布 TokenSpeed 推理优化成果:在 4 张 NVIDIA GB300(NVFP4)上服务 Qwen3.8-Flash-Next,实现每用户 685 output tokens/s,阿里巴巴 Qwen 官方转发祝贺。

来源:AGI Hunt · agihunt.info