跳到正文
原文
AGI Hunt· vexatious-big·· 12 小时前AI 评分56

llama.cpp v0.6.0 发布:Qwen4Exp 支持 MTP 投机解码

AI 导读

llama.cpp 发布 v0.6.0,为 Qwen4Exp 带来 MTP(multi-token prediction)投机解码支持,并包含大量其他更新。该版本发布在 GitHub 的 ggml-org/llama.cpp v0.6.0 release 页面,消息由 reddit 用户 vexatious-big 转述。

来源:AGI Hunt · agihunt.info