AGI Hunt· Fancy-Snow7·· 3 小时前AI 评分63
16GB 显存跑 Qwen3.8 27B:262k 上下文+视觉,作者公开调参细节
AI 导读
Reddit 用户 Fancy-Snow7 在单张 16GB 显存(RTX 5070 Ti)上运行 unsloth/Qwen3.8-27B-UD-IQ4XS 量化模型,实现 262k 上下文、q40 KV 缓存并带视觉,MTP 吞吐约 80t/s、1500pp,同卡还驱动双屏。
来源:AGI Hunt · agihunt.info