Hugging Face/Kaggle 工程师 Zach Mueller：本地模型跑不到 100 tokens/s 基本没人用

Hugging Face/Kaggle 工程师 Zach Mueller 提出，本地部署的模型如果推理速度达不到 100 tokens/s 以上，用户大概率坚持不下去。他把这一判断称作「苦涩教训」式的观点，认为速度而非质量才是本地模型真正被日常使用的门槛。