跳到正文
原文
AGI Hunt· eliebakouch·· 3 小时前AI 评分25

Kimi K3 采用归一化 latentMoE 稳定训练,9 处 Norm 细节曝光

AI 导读

Hugging Face 研究员 Elie Bakouch 指出,Kimi K3 使用归一化的 latentMoE 结构来稳定训练,并公开了来自 Muse 代码库的 9 处 Norm 层清单。其中 5 处为可学习参数(normalize 后乘以 1+w 或先乘后归一化);专家侧由 256 个专家共享一个 postexpertnorm 模块,宽度在 8192 与 4096 间切换。

来源:AGI Hunt · agihunt.info