跳到正文
原文
AGI Hunt· petrusenko_max·· 3 小时前AI 评分48

Kimi K3 约 3 万亿参数铺满 59 片 WSE-3 晶圆,权重常驻仅传激活

AI 导读

Cerebras 展示了用 59 片 WSE-3T 晶圆级芯片部署 Moonshot 约 3 万亿参数的 Kimi K3 模型的方案。其中 35 片晶圆各承载两层线性注意力层、24 片各承载一层稠密层,权重以 4-bit 存储,剩余 SRAM 用于 8-bit KV cache。权重常驻晶圆、晶圆间只传输激活值,从而避开权重搬运的带宽瓶颈。

来源:AGI Hunt · agihunt.info