AGI Hunt· Dapper_Chance_2484·· 4 小时前AI 评分29
4x3090 还是 DGX Spark:本地部署大模型的算力取舍账
AI 导读
Reddit 用户比较本地跑更大模型的两条升级路线:把现有 2x3090 扩到 4x3090(可能配 Threadripper),或购买 DGX Spark 等同类设备。讨论围绕分布式 VRAM 对统一内存、叠加带宽对低内存带宽、1200-1400W 对 <200W 功耗,以及 Ampere 与 Blackwell 架构差异展开。帖内尚无实测结论。
来源:AGI Hunt · agihunt.info