AGI Hunt· JiaZhihao·· 2 小时前AI 评分28
Lithos 与 AMD 合作:8 张 MI355X 跑 DeepSeek V4.1 Flash,每用户达 2116 tokens/秒
Lithos与AMD合作:8张MI355X跑DeepSeek达每用户2116 tokens/秒
AI 导读
Lithos AI 与 AMD 合作推出推理引擎,在 8 张 AMD Instinct MI355X GPU 上运行 DeepSeek V4.1 Flash,实现每用户 2116 tokens/秒的吞吐。双方称其为 AMD GPU 上最快的推理引擎,主打超低延迟 LLM 推理。
来源:AGI Hunt · agihunt.info