AGI Hunt· stargate425·· 2 小时前AI 评分55
单卡 RTX PRO 6000 上 Qwen3.8-27B 位精确投机解码达 106 t/s
单卡 RTX PRO 6000 上 Qwen3.8-27B 位精确投机解码跑到 106 t/s
AI 导读
Reddit 用户在单张 RTX PRO 6000 Blackwell 上复现了 Qwen3.8-27B 的位精确投机解码，短 prompt 确定性推理解码速度达 106.6 t/s。
来源：AGI Hunt · agihunt.info