HuggingFace Blog·· 2026-07-23精选AI 评分65
Diffusers 原生支持 Nunchaku 4-bit 扩散推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Hugging Face 将 Nunchaku Lite 集成进 Diffusers，可用 from_pretrained() 直接加载 SVDQuant 4-bit 量化检查点，无需单独推理引擎或本地 CUDA 编译。
推荐理由
原文给出 BF16 与 4-bit 量化在显存和端到端延迟上的对比数据，可据此判断消费级显卡跑扩散模型的实际收益。
来源：HuggingFace Blog · huggingface.co