LLM 推理价格趋零而 GPU 租金大涨

从业者 jondurbin 指出 LLM 推理行业存在经济悖论：推理价格「竞速归零」，GPU 价格却「竞速奔向无穷」。其数据显示 GPU 租金半年上涨 27%，固定智能价格暴跌 63%，其项目 Parallax 试图弥合这一差距。Engy 开发者回应称，团队日 token 吞吐虽超 Chutes，但 token 数只是趣味指标，另有 221 张 GPU 以高于成本的时薪租出。