650 美元攒 8 卡 T4 服务器跑本地 LLM，QLoRA 微调路线陷入困局

一位 Reddit 用户用 650 美元购入 Asus ESC4000 G3 服务器（128GB DDR4）并插 8 张 T4，每卡跑独立 llama.cpp 实例、经 nginx 轮询负载均衡，单用户约 35-40 tps、TTFT 3-5 秒。