跳到正文
原文
AGI Hunt· ivan_bezdomny·· 4 小时前AI 评分56

Hugging Face CEO 宣布 Kev-4B 决策模型可在 llama.cpp 端侧免费运行

Hugging Face CEO:决策模型 Kev-4B 可在 llama.cpp 端侧免费运行

AI 导读

Hugging Face CEO Clement Delangue 宣布决策模型 Kev-4B 现可在 llama.cpp 上以设备端方式运行,免费、快速并保护隐私。他给出的一行运行命令为 `llama serve -hf ggml-org/Kev-4B-GGUF`。

来源:AGI Hunt · agihunt.info