AGI Hunt· HankYeomans·· 4 天前AI 评分36
开发者用 192GB 显存跑 426GB MXFP4 量化版 DeepSeek v4.1
开发者用 192GB 显存跑 426GB 量化版 DeepSeek
AI 导读
开发者 HankYeomans 在仅有 192GB 显存的本地设备上,以 MXFP4 量化格式运行约 426GB 的 DeepSeek v4.1 "Frankenstein" 版本。他于 10 月 11 日分享初步成果,并完成多 agent 代码审查实测,派出 4 个子 agent 协同完成任务。这展示了大模型重度量化后在消费级硬件上落地的可能性。
来源:AGI Hunt · agihunt.info