跳到正文
原文
AGI Hunt· ciprianveg·· 4 小时前AI 评分46

从单卡 3090 到 20 台 DGX Spark:一位用户的家庭本地推理集群进化史

从一张 3090 到 20 台 DGX Spark:家庭本地推理集群的完整进化史

AI 导读

Reddit 用户记录了自己从单卡 3090 跑 LLaMA 33B,到与兄弟合建 16 台 NVIDIA DGX Spark 集群运行 Kimi K3(2.8T)的本地推理升级全过程,全程未付费订阅商用 API。

来源:AGI Hunt · agihunt.info