热点事件持续更新
Kimi K3 推理 compute bound，显卡不够
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 10 月 26 日，AGI Hunt 报道，YouJiacheng 就 Kimi K3 的推理瓶颈做了测算：其 96 头 MLA 的计算强度达到 363 FLOPs/Byte；即便 KV 采用 FP8，MLA 推理仍处于 compute bound（计算能力受限）状态，并非 memory bound（显存带宽受限）。他进一步估算，在 77k 上下文下，MLA 计算量约为 386B；即使把 MFU 拉到最高，Kimi 现有显卡也不够用。按照这一测算，制约 K3 推理的主要因素是算力，显存带宽并非主要约束；Kimi 现有硬件规模难以覆盖这一计算量。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AGI HuntYouJiacheng：MLA 推理实为 compute bound，Kimi K3 算力吃紧
YouJiacheng 就 Kimi K3 推理瓶颈算账指出，96 头 MLA 计算强度达 363 FLOPs/Byte，即便采用 FP8 KV 仍是 compute bound，而非 memory bound。77k 上下文下 MLA 计算量约 386B，即使 MFU 拉满，Kimi 现有显卡也不够用。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。