Hugging Face Blog·· 2026-07-23精選AI 評分61
Diffusers 原生支援 Nunchaku Lite 4-bit 擴散模型推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 導讀
Diffusers 現已原生支援 Nunchaku Lite 的 4-bit 擴散模型推理,預量化檢查點可用 `from_pretrained()` 載入,無須獨立推理引擎或本機編譯 CUDA。
推薦理由
文章説明 Nunchaku Lite 在 Diffusers 的原生載入方式,並以 RTX PRO 6000 基準量化呈現延遲與顯存變化。
來源:Hugging Face Blog · huggingface.co