热点事件持续更新
双 A100 跑 Qwen3.8 Flash 并发速度骤降
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026年10月13日,AGI Hunt 援引 Reddit 用户的实测:在 Proxmox 直通的双 A100 80GB PCIe 服务器上,用 llama.cpp 运行 Qwen3.8 Flash,单用户生成速度约 50-70 tk/s;当并发 2-3 个会话时,生成速度骤降至 10-15 tk/s。该实测显示这套双卡部署在多用户并发场景下吞吐明显下滑,单用户与并发之间差距较大。目前公开信息仅此一份来自 Reddit 的用户实测,尚无官方回应、其他来源复现或针对该现象的原因说明。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月13日
- AGI Hunt双 A100 80GB 跑 Qwen3.8 Flash:单用户 70tk/s,多用户骤降至 15
Reddit 用户实测在 Proxmox 直通的双 A100 80GB PCIe 服务器上用 llama.cpp 跑 Qwen3.8 Flash,单用户生成 50-70 tk/s,并发 2-3 个会话时骤降至 10-15 tk/s。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。