跳到正文
原文
AGI Hunt· bendee983·· 3 小时前AI 评分55

10 人初创公司花 1.8 万美元自建 128GB 显存 AI 服务器,实测 16 并发解码 538.5 tokens/s

10 人初创花 1.8 万美元自建 128GB 显存 AI 服务器,多人实测数据曝光

AI 导读

一家 10 人初创公司花 1.8 万美元自建本地 AI 服务器,Threadripper 主机搭载 4 张 Radeon AI PRO R9700,共 128GB 显存,运行 Qwen3.8 与 DeepSeek V4 Flash,支持 16 个并发会话,GPU 降压至 210W 以下运行。

来源:AGI Hunt · agihunt.info