热点事件持续更新
RTX 5090 跑 33B Q4 约 86 tokens/s
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 10 月 28 日，AIFlow_ML 发布对 RTX 5090 本地推理速度的估算：按该卡 1,792 GB/s 的显存带宽，运行 Q4 量化后体积约 21 GB 的 33B 模型，理论最好情况下约为 86 tokens/s，且这一数字未计入上下文带来的影响。据此得出的结论是，本地推理的速度瓶颈在显存带宽而非算力，选卡时应优先看内存速度，而不是 TFLOPS。目前公开报道中只有这一项估算结果，尚无实测数据披露。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 04:58
AIFlow_ML 估算 RTX 5090 跑 33B Q4 约 86 tokens/s，称瓶颈在显存带宽而非算力。报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- AGI HuntRTX 5090 跑 33B Q4 模型约 86 tokens/s：买显存带宽别买 TFLOPS
AIFlow_ML 按 RTX 5090 的 1,792 GB/s 显存带宽估算，运行 Q4 量化后约 21 GB 的 33B 模型，理论最好情况约 86 tokens/s，且未计上下文影响。由此得出的结论是本地推理速度瓶颈在显存带宽而非算力，选卡时应买内存速度，而不是 TFLOPS。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。