跳到正文
热点事件持续更新

双 A100 跑 Qwen3.8 Flash 并发速度骤降

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

2026年10月13日,AGI Hunt 援引 Reddit 用户的实测:在 Proxmox 直通的双 A100 80GB PCIe 服务器上,用 llama.cpp 运行 Qwen3.8 Flash,单用户生成速度约 50-70 tk/s;当并发 2-3 个会话时,生成速度骤降至 10-15 tk/s。该实测显示这套双卡部署在多用户并发场景下吞吐明显下滑,单用户与并发之间差距较大。目前公开信息仅此一份来自 Reddit 的用户实测,尚无官方回应、其他来源复现或针对该现象的原因说明。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. AGI Hunt
    双 A100 80GB 跑 Qwen3.8 Flash:单用户 70tk/s,多用户骤降至 15

    Reddit 用户实测在 Proxmox 直通的双 A100 80GB PCIe 服务器上用 llama.cpp 跑 Qwen3.8 Flash,单用户生成 50-70 tk/s,并发 2-3 个会话时骤降至 10-15 tk/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。