跳到正文
原文
AGI Hunt· julsimon·· 3 小时前AI 评分62

Julien Simon 逆向剖析 Apple 端侧 20B 模型:MoE 驻闪存内存占用约 2GiB

博主逆向剖析 Apple 端侧 20B 模型:MoE 驻闪存仅占 2GiB 内存

AI 导读

Julien Simon 在 Apple 不发布模型卡的情况下,通过读取文件、内存、功耗和 token 计数从外部测量还原了每台支持 Apple Intelligence 的 Mac 内置的 200 亿参数模型。

来源:AGI Hunt · agihunt.info