跳到正文
原文
AGI Hunt· IntrepidMindExplorer·· 4 小时前AI 评分32

8 核 CPU 用 llama.cpp 跑 Q4 量化 KAT-Coder-V2.5-Dev,单次生成太阳系交互演示

8 核 CPU 跑 Q4 量化模型,10 分钟单次生成太阳系交互演示

AI 导读

Reddit 用户在仅有 iGPU 的 8 核 CPU 主机上用 llama.cpp 跑 KAT-Coder-V2.5-Dev 的 Q4KM 量化版,以约 14 token/s 单次生成太阳系交互演示。模型自行规划 Canvas 渲染、开普勒式轨道、粒子爆炸与 UI 面板,行星按半长轴和偏心率运行,作者称该编码能力远超纯 CPU 本地推理预期。

来源:AGI Hunt · agihunt.info