# 将 Nunchaku 4 比特扩散推理引入 Diffusers

- 原标题：Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
- 类型：博客
- 来源：Hugging Face
- 发布时间：2026-07-23
- 首次精选：2026-10-28 16:25
- 分级：值得看
- 原文链接：[https://huggingface.co/blog/nunchaku-diffusers](<https://huggingface.co/blog/nunchaku-diffusers>)
- 本站页面：[https://oplearnx.com/resources/pk\_0affb3d64b3d](<https://oplearnx.com/resources/pk_0affb3d64b3d>)

## 摘要

介绍如何在 Diffusers 中使用 Nunchaku 量化检查点的博客，发布于 2026 年 7 月 23 日。文章说明现代文生图模型以 BF16 加载常需 20–30 GB 显存，而 Diffusers 已有的 bitsandbytes、GGUF、torchao、Quanto 等后端多为仅权重量化，可省显存但不一定加速；Nunchaku 背后的 SVDQuant 采用 4 比特权重与激活（W4A4）运行主 transformer 层，在降低内存的同时加速去噪循环，此前需要单独的推理库，现在可直接在 Diffusers 中加载。

---
来源：LearnMap · 学径（https://oplearnx.com）