AGI Hunt· YouJiacheng·· 2 小时前AI 评分46
Kimi K3 解码成本被指较 K2 V4.1F 贵约 20 倍
Kimi K3 解码成本被指较 V4.1F 贵约 20 倍
AI 导读
开发者对比 Kimi K3 与 K2 V4.1F 的服务成本:K3 每 token 解码约需 1 TFLOPs、KV cache 14400 字节,V4.1F 仅需 50 GFLOPs、890 字节,两者都能在 compute-bound 状态部署。z4y5f3 承认此前按 HF 默认精度算错 KV cache,修正后仍称 K3 解码成本约贵 20 倍。
来源:AGI Hunt · agihunt.info