HuggingFace Blog·· 2026-08-10AI 评分52
Multiverse Computing 让知识蒸馏便宜到可大规模运行
Making Knowledge Distillation Cheap Enough to Run at Scale
AI 导读
Multiverse Computing 提出离线缓存教师 top-100 logits 和融合分块 KL 损失两项改动，让知识蒸馏不必同时把教师与学生模型放在显存里。
来源：HuggingFace Blog · huggingface.co