AGI Hunt· Mission-Sir-1614·· 3 小时前AI 评分61
Gemma 4 26B 在 16GB Mac mini M4 上离线跑 TypeScript 测试,得 33/40、31 tok/s
Gemma 4 26B 在 16GB Mac 离线跑 TypeScript 测试,33/40 分、31 tok/s
AI 导读
作者用 llama.cpp 插件 Kraits 在 16GB Mac mini M4 上直接加载 Google 官方 14.4GB 的 Gemma 4 26B-A4B QAT Q40 文件,在 5 个 TypeScript 任务上经严格编译加 Jest 执行评分得 33/40,离线写入 31 tok/s。
来源:AGI Hunt · agihunt.info