跳到正文
热点事件持续更新

16GB 显存跑 Qwen3.8-27B 262k 上下文

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月13日,据 AGI Hunt 报道,Reddit 用户 Fancy-Snow7 公开了一项本地推理调参细节:在单张 16GB 显存的 RTX 5070 Ti 上,运行 unsloth/Qwen3.8-27B-UD-IQ4XS 量化模型,实现了 262k 上下文,并启用 q40 KV 缓存以及视觉能力。报道称,在该配置下 MTP 吞吐约为 80t/s、1500pp,同一张显卡还同时驱动双屏。报道未提及更早的进展,也未给出与该配置相关的其他时间点或对比数据。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. AGI Hunt
    16GB 显存跑 Qwen3.8 27B:262k 上下文+视觉,作者公开调参细节

    Reddit 用户 Fancy-Snow7 在单张 16GB 显存(RTX 5070 Ti)上运行 unsloth/Qwen3.8-27B-UD-IQ4XS 量化模型,实现 262k 上下文、q40 KV 缓存并带视觉,MTP 吞吐约 80t/s、1500pp,同卡还驱动双屏。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。