AGI Hunt· lxfater·· 2 天前精选AI 评分66
开源项目 Strata 让 12GB 显存家用 PC 跑通 1250 亿参数 Qwen 模型
开源 Strata:12GB 显存家用机跑通 1250 亿参数 Qwen 模型
AI 导读
开源项目 Strata(GitHub 近 8k star)让普通游戏 PC 在 12GB 以上显存的 NVIDIA/AMD 显卡上运行 1250 亿参数的 Qwen3.8-Flash-Next,支持 Windows/Linux 一键安装,提供本地 OpenAI/Anthropic 兼容 API,并支持图片输入。
推荐理由
MoE 只激活部分专家的思路加上显存与内存分工,为家用显卡跑大参数模型提供了可参照的实现路径。
来源:AGI Hunt · agihunt.info