AGI Hunt· JosephJacks_·· 5 小时前AI 评分24
Liquid AI 实测:B300 GPU 高并发下输出超 2.1 万 tokens/s
Liquid AI 实测:B300 GPU 高并发下输出超 2.1 万 tokens/s
AI 导读
Liquid AI 展示其模型在 NVIDIA B300 GPU 上的推理扩展表现,高并发场景下输出速度超过 21,000 tokens/s。相关转发强调该系列模型从 MacBook 到 Blackwell GPU 都能流畅运行,覆盖端侧到数据中心的全栈推理能力。
来源:AGI Hunt · agihunt.info