跳到正文
原文
AGI Hunt· Designer_Elephant227·· 2 小时前AI 评分43

单卡 R9700 跑 Qwen3.8-Flash-Next:230k 上下文下 863 t/s prefill、35 t/s 解码

AI 导读

Reddit 用户分享在单张 AMD R9700 上用 exllamav3(ROCm fork)本地运行 Qwen3.8-Flash-Next:230k 上下文下 prefill 863 t/s、解码 34.7 t/s。

来源:AGI Hunt · agihunt.info