跳到正文
原文
AGI Hunt· JosephJacks_·· 5 小时前AI 评分24

Liquid AI 实测:B300 GPU 高并发下输出超 2.1 万 tokens/s

Liquid AI 实测:B300 GPU 高并发下输出超 2.1 万 tokens/s

AI 导读

Liquid AI 展示其模型在 NVIDIA B300 GPU 上的推理扩展表现,高并发场景下输出速度超过 21,000 tokens/s。相关转发强调该系列模型从 MacBook 到 Blackwell GPU 都能流畅运行,覆盖端侧到数据中心的全栈推理能力。

来源:AGI Hunt · agihunt.info