开发者吐槽 GPT 模型变无聊：生成速度低于 20 token/秒

开发者 Lucas Meijer 表示，最近几周用 GPT 系列模型工作时完全失去了乐趣，主要原因在于生成速度大多低于 20 token/秒。这条吐槽指向的是推理速度对日常使用体验的直接影响。