AGI Hunt· julsimon·· 3 小时前AI 评分62
Julien Simon 逆向剖析 Apple 端侧 20B 模型:MoE 驻闪存内存占用约 2GiB
博主逆向剖析 Apple 端侧 20B 模型:MoE 驻闪存仅占 2GiB 内存
AI 导读
Julien Simon 在 Apple 不发布模型卡的情况下,通过读取文件、内存、功耗和 token 计数从外部测量还原了每台支持 Apple Intelligence 的 Mac 内置的 200 亿参数模型。
来源:AGI Hunt · agihunt.info