AGI Hunt· JiaZhihao·· 3 小时前AI 评分51
Lithos AI 发布 AMD GPU 推理引擎,8 张 MI355X 上 DeepSeek V4.1 Flash 每用户达 2116 tokens/秒
Lithos 引擎在 8 张 AMD MI355X 上跑出每用户 2116 tokens/秒
AI 导读
Lithos AI 发布号称 AMD GPU 上最快的推理引擎,在 8 张 AMD Instinct MI355X 上让 DeepSeek V4.1 Flash 达到每用户 2116 tokens/秒,比同类开源引擎快最多 3.4 倍。
来源:AGI Hunt · agihunt.info