Kev-4B 可在 llama.cpp 端侧免费运行

2026年10月2日，Hugging Face CEO Clement Delangue 宣布，决策模型 Kev-4B 现可在 llama.cpp 上以设备端（端侧）方式运行。据其说法，该模型免费、运行快速，并且由于在本地设备上运行而能保护隐私。他同时给出了一行运行命令：`llama serve -hf ggml-org/Kev-4B-GGUF`，指向 ggml-org 的 Kev-4B-GGUF 仓库。截至目前，暂无更早的相关报道，也没有与上述说法相矛盾的后续报道，事件的最新状态即为这项端侧运行支持的公布。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。