AGI Hunt· TheZachMueller·· 4 小时前AI 评分34
Zach Mueller 调侃自建本地推理集群:日耗超 240 kWh,用 Kimi K3.1 跑约 10 个并发 agent
自建本地推理集群日耗 24 万度电,网友戏称「中彩票的信号」
AI 导读
Zach Mueller 转发一条本地推理集群的描述并开玩笑:自己中彩票的迹象,就是当地电网来信质问他为何每天用电超过 240 kWh。被引原推称,搭建可跑约 10 个快速并发 agent 的本地推理集群需投入 150 万美元以上,并搭配 Kimi K3.1 这类 Opus 级开源模型;全球可能只有个位数的人同时满足这些条件。
来源:AGI Hunt · agihunt.info