跳到正文
原文
AGI Hunt· teortaxesTex·· 3 小时前AI 评分31

DeepInfer 为 DeepSeek 4.1F 深度定制:KV cache 每 token 仅 890 字节

AI 导读

DeepSeek 开源的推理框架 DeepInfer 为 DeepSeek 4.1F 深度定制,KV cache 每 token 仅 890 字节,1M token 上下文占用不到 1G 显存,前代 4F 约需四倍。

来源:AGI Hunt · agihunt.info