跳到正文
原文
AGI Hunt· JiaZhihao·· 3 小时前AI 评分51

Lithos AI 发布 AMD GPU 推理引擎,8 张 MI355X 上 DeepSeek V4.1 Flash 每用户达 2116 tokens/秒

Lithos 引擎在 8 张 AMD MI355X 上跑出每用户 2116 tokens/秒

AI 导读

Lithos AI 发布号称 AMD GPU 上最快的推理引擎,在 8 张 AMD Instinct MI355X 上让 DeepSeek V4.1 Flash 达到每用户 2116 tokens/秒,比同类开源引擎快最多 3.4 倍。

来源:AGI Hunt · agihunt.info