AGI Hunt· The_VibePreneur·· 3 小时前AI 评分60
开源项目 BitRun v0.2.0-beta 发布，纯 CPU 运行 1-bit 大模型，8B 模型约 2GB 内存跑 21 t/s
BitRun 在纯 CPU 跑 1-bit LLM：8B 模型 2GB 内存、21 t/s
AI 导读
开源项目 BitRun 发布 v0.2.0-beta，主打在普通笔记本 CPU 上运行 1-bit 大模型，PrismML 的 8B 三值模型 bonsai-8b 可在纯 CPU、约 2GB 内存下运行，实测 21 t/s。
来源：AGI Hunt · agihunt.info