将 Nunchaku 4 比特扩散推理引入 Diffusers

介绍如何在 Diffusers 中使用 Nunchaku 量化检查点的博客，发布于 2026 年 7 月 23 日。文章说明现代文生图模型以 BF16 加载常需 20–30 GB 显存，而 Diffusers 已有的 bitsandbytes、GGUF、torchao、Quanto 等后端多为仅权重量化，可省显存但不一定加速；Nunchaku 背后的 SVDQuant 采用 4 比特权重与激活（W4A4）运行主 transformer 层，在降低内存的同时加速去噪循环，此前需要单独的推理库，现在可直接在 Diffusers 中加载。