热点事件持续更新
8GB显卡开MTP跑9B模型吞吐反降一半
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月12日，有 Reddit 用户在最新版 llama.cpp 上，用 draft-MTP 对 Ornith 1.5 9B 的 GGUF 量化版做加速测试，硬件为 8GB 显存的 RTX 4060。结果与预期相反：开启 MTP 后吞吐反而减半，生成速度约 15 tok/s、预填充约 200 tok/s；同时 draft 接受率高达 0.95，但显存带宽与 GPU 利用率也只剩一半。该用户据此怀疑问题出在消费级显存受限情况下的调度或实现层面，并在帖中附上了完整启动命令。此事随后引发讨论。
AI 根据报道生成 · 3 小时前更新
最新进展10月12日 21:59
实测接受率0.95却吞吐减半，发帖者疑为显存受限下的调度或实现问题。报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- AGI HuntMTP 反而更慢？8GB 显卡跑 Ornith 1.5 9B 实测吞吐减半引讨论
Reddit 用户在最新 llama.cpp 上用 draft-MTP 加速 Ornith 1.5 9B 的 GGUF 量化版，8GB RTX 4060 上吞吐反而减半。生成约 15 tok/s、预填充 200 tok/s，draft 接受率高达 0.95，但显存带宽与 GPU 利用率也只剩一半。作者怀疑是消费级显存受限下的调度或实现问题，帖中附完整启动命令。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。