AGI Hunt· Alibaba_Qwen·· 4 小时前AI 评分48
TokenSpeed 在 4×GB300 上跑 Qwen3.8-Flash-Next,单用户 685 tokens/s
AI 导读
LightSeek Foundation 发布 TokenSpeed 推理优化成果:在 4 张 NVIDIA GB300(NVFP4)上服务 Qwen3.8-Flash-Next,实现每用户 685 output tokens/s,阿里巴巴 Qwen 官方转发祝贺。
来源:AGI Hunt · agihunt.info