AGI Hunt· TheRealJesus2·· 3 小时前AI 评分29
Dwarfstar 定制量化:Qwen 在 96GB M3 Ultra 上跑得又快又稳
AI 导读
Reddit 用户分享对 Dwarfstar(dwarfstar.sh)定制量化的初步体验:在 96GB 内存的 M3 Ultra Mac Studio 上运行 Qwen 3 8B(next),速度快、表现良好,且仍有余量同时运行其他任务。该方案针对少数模型提供定制量化技术并配合其软件运行,发帖人称"相当惊艳",并向其他人询问使用体验。
来源:AGI Hunt · agihunt.info