跳到正文
原文
AGI Hunt· FinanceYF5·· 2 小时前AI 评分51

Edge0 开源四平台应用层,35B 模型端侧峰值内存仅 1–2.5GB

Edge0 开源应用层:35B 模型手机端仅占 1–2.5GB 内存

AI 导读

Samuel Zeng 团队宣布开源 Edge0 的应用层,覆盖 iOS、macOS、Android、Windows 四个平台。Edge0 主打本地推理,三周前发布首版时即宣称可在本地设备上运行 350 亿参数语言模型,峰值内存占用仅 1–2.5GB。本次开源意味着用户可直接在手机和电脑上完整跑通端侧 LLM 应用。

来源:AGI Hunt · agihunt.info