跳到正文
原文
AGI Hunt· Mission-Sir-1614·· 3 小时前AI 评分61

Gemma 4 26B 在 16GB Mac mini M4 上离线跑 TypeScript 测试,得 33/40、31 tok/s

Gemma 4 26B 在 16GB Mac 离线跑 TypeScript 测试,33/40 分、31 tok/s

AI 导读

作者用 llama.cpp 插件 Kraits 在 16GB Mac mini M4 上直接加载 Google 官方 14.4GB 的 Gemma 4 26B-A4B QAT Q40 文件,在 5 个 TypeScript 任务上经严格编译加 Jest 执行评分得 33/40,离线写入 31 tok/s。

来源:AGI Hunt · agihunt.info