AGI Hunt· bit_freak·· 4 小时前AI 评分19
16GB 内存何时能本地跑平 Opus?聊聊端侧 LLM 的现实距离
16GB 内存何时能本地跑平 Opus?聊聊端侧 LLM 的现实距离
AI 导读
Reddit 用户发问:16GB 内存的普通机器何时能本地运行与 Opus 5 相当的模型。发帖者注意到苹果正朝端侧 AI 方向走,并设想即使全功能模型太大,面向编程、设计等特定任务的小模型做到 60-80GB 也可行,届时无需再付订阅费。该帖属展望式讨论,无实质结论或数据。
来源:AGI Hunt · agihunt.info