跳到正文
原文
AGI Hunt· ANR2ME·· 21 小时前AI 评分35

手机+三台 Mac+两台 PC 拼出 60GB 内存,跑通 gpt-oss-120b

手机+三台 Mac+两台 PC 拼出 60GB 内存,跑通 gpt-oss-120b

AI 导读

Reddit 用户 MedicineBlogscanner 用手机、Mac 与 PC 组成的异构设备,跑通了 4-bit 量化的 gpt-oss-120b,该模型官方要求至少 60GB 内存。

来源:AGI Hunt · agihunt.info