跳到正文
原文
AGI Hunt· draginol·· 1 天前AI 评分36

业内人士呼吁:下一代 AI 笔记本需要 35B MoE、激活 9B 的本地模型

业内人士呼吁:下一代笔记本需要 35B MoE、激活 9B 的本地模型

AI 导读

draginol 指出下一代 AI 笔记本的理想本地模型规格约为 35B 参数 MoE、激活参数约 9B,是性能与端侧算力的甜点位。他找遍近期模型后发现,目前几乎没有激活参数超过 3B 的可用选择,端侧模型在激活规模上仍存在明显空缺。

来源:AGI Hunt · agihunt.info