跳到正文
原文
Hugging Face Blog·· 2026-07-23精選AI 評分61

Diffusers 原生支援 Nunchaku Lite 4-bit 擴散模型推理

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 導讀

Diffusers 現已原生支援 Nunchaku Lite 的 4-bit 擴散模型推理,預量化檢查點可用 `from_pretrained()` 載入,無須獨立推理引擎或本機編譯 CUDA。

推薦理由

文章説明 Nunchaku Lite 在 Diffusers 的原生載入方式,並以 RTX PRO 6000 基準量化呈現延遲與顯存變化。

來源:Hugging Face Blog · huggingface.co