跳到正文
原文
AGI Hunt· lxfater·· 2 天前精选AI 评分66

开源项目 Strata 让 12GB 显存家用 PC 跑通 1250 亿参数 Qwen 模型

开源 Strata:12GB 显存家用机跑通 1250 亿参数 Qwen 模型

AI 导读

开源项目 Strata(GitHub 近 8k star)让普通游戏 PC 在 12GB 以上显存的 NVIDIA/AMD 显卡上运行 1250 亿参数的 Qwen3.8-Flash-Next,支持 Windows/Linux 一键安装,提供本地 OpenAI/Anthropic 兼容 API,并支持图片输入。

推荐理由

MoE 只激活部分专家的思路加上显存与内存分工,为家用显卡跑大参数模型提供了可参照的实现路径。

来源:AGI Hunt · agihunt.info