跳到正文
原文
AGI Hunt· GodComplecs·· 2 小时前AI 评分22

100GB+ 内存能跑什么规划模型?Reddit 征集本地部署方案

AI 导读

Reddit 用户发帖征集 100GB+ RAM/VRAM 配置下最适合做规划(planning)的本地模型,要求推理速度至少 10 tokens/s,用途以科研为先、编程次之,主要用于制定方案。帖子希望收集大家正在运行的具体部署方案。

来源:AGI Hunt · agihunt.info