跳到正文
原文
AGI Hunt· Fancy-Snow7·· 3 小时前AI 评分63

16GB 显存跑 Qwen3.8 27B:262k 上下文+视觉,作者公开调参细节

AI 导读

Reddit 用户 Fancy-Snow7 在单张 16GB 显存(RTX 5070 Ti)上运行 unsloth/Qwen3.8-27B-UD-IQ4XS 量化模型,实现 262k 上下文、q40 KV 缓存并带视觉,MTP 吞吐约 80t/s、1500pp,同卡还驱动双屏。

来源:AGI Hunt · agihunt.info