Lithos AI 与 AMD 合作发布 AMD GPU 最快推理引擎

2026年10月27日，Lithos AI 发布一款面向 AMD GPU 的推理引擎，并称其为 AMD GPU 上最快的推理引擎。根据发布信息，在 8 张 AMD Instinct MI355X 加速卡上，该引擎运行 DeepSeek V4.1 Flash 时，每用户可达 2116 tokens/秒；与同类开源引擎相比，速度最高快 3.4 倍。次日（10月28日）的后续报道称，该引擎由 Lithos AI 与 AMD 合作推出，双方共同称其为 AMD GPU 上最快的推理引擎，主打超低延迟 LLM 推理；8 张 MI355X 上运行 DeepSeek V4.1 Flash、每用户 2116 tokens/秒的吞吐数字与早先报道一致。报道未给出其他模型、其他卡数或与更多引擎对比的细节，也未提及该引擎的具体开源协议与上线时间。

AI 根据报道生成 · 11 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。