AGI Hunt· The_VibePreneur·· 3 小时前精选AI 评分65
BitRun 发布零编译 1-bit 三值 LLM 运行器,M4 Pro 纯 CPU 达 127 tokens/s
BitRun 免编译跑 1-bit 模型,M4 Pro 纯 CPU 达 127 tokens/s
AI 导读
开发者发布 BitRun,一个零编译的 1-bit 三值 LLM 独立运行器,采用 Ollama 式工作流,60 秒即可在普通笔记本 CPU 上运行三值模型。
推荐理由
给出了纯 CPU 运行三值模型的速度数据和上游 bug 修复细节,便于对照低功耗边缘设备的实际可用性。
来源:AGI Hunt · agihunt.info