跳到正文
原文
AGI Hunt· casper_hansen_·· 2 小时前AI 评分23

呼吁 Qwen4 27B 搭载可卸载到内存的 100B+ Engram

AI 导读

Casper Hansen 提出 Qwen4 27B 搭配 100B+ 参数 Engram(世界知识模块),并把该模块卸载到 RAM + NVMe 的本地模型设想,让小 VRAM 显卡也能跑,却拥有大 MoE 的世界知识。这一想法面向本地模型社区,属于对开源模型架构方向的讨论与期待。

来源:AGI Hunt · agihunt.info