AGI Hunt· Longjumping-Elk-7756·· 5 小时前AI 评分45
双卡 Radeon R9700 本地跑 DeepSeek V4.1-Flash：8K 上下文解码 49 tok/s
双卡 Radeon R9700 本地跑 DeepSeek V4.1-Flash:8K 上下文解码 49 tok/s
AI 导读
Reddit 用户实测在 2 张 Radeon AI PRO R9700（单卡 32GB 显存，共 64GB）上运行 IQ2XXS 量化（约 2bpw）的 DeepSeek V4.1-Flash，8K 上下文解码达 49.1 tok/s。
来源：AGI Hunt · agihunt.info