Lil'Log(Lilian Weng 个人博客) · Lilian Weng
What are Diffusion Models?(Lil'Log 扩散模型详解)
系统理解扩散模型的数学原理与主流改进方向,能读懂并跟进扩散模型论文与开源实现。
Lil'Log
- 难度
- 见前置条件
- 形式
- 文章
- 语言
- 英文
- 规模
- 1 个课节
- 内容费用
- 免费
- 动手
- 打开即可学习
使用限制
阅读本身只需浏览器,无账号或付费门槛;文中引用的论文与代码仓库均可单独访问。标题虽为单页文章,但未提供可下载的配套环境。
- 练习与作业
- 训练或采样扩散模型通常需要 GPU,原站未说明是否必需
- 补充内容
- 访问论文链接(arXiv/OpenReview)与外链 GitHub 需可正常联网
学完你能
- 解释扩散模型的直觉来源(非平衡热力学)及与 GAN、VAE、Flow 模型的区别
- 写出前向扩散过程的马尔可夫链定义与用重参数化技巧得到的任意时刻闭式采样公式
- 说明反向扩散过程的建模方式及 q(x_{t-1}|x_t,x_0) 可解的原因
- 推导并用变分下界简化训练损失,理解 L_t 的参数化选择
- 解释扩散模型与噪声条件分数网络(NCSN)及随机梯度 Langevin 动力学的关系
- 说明 β_t 与反向过程方差 Σ_θ 的参数化方式及其影响
- 区分 classifier guidance 与 classifier-free guidance 的条件生成机制
- 概述加速采样手段(更少步数、蒸馏、一致性模型)与潜空间扩散、模型架构要点
适合你吗
适合
适合已有深度学习与概率基础、希望系统梳理扩散模型数学推导与主流变体的学习者作为主线精读材料。
暂不适合
不是入门级科普或动手代码教程;只想快速跑通生成样例、缺乏概率与微积分基础者会觉得推导密度过大。
需要先会
需具备概率论(高斯分布、贝叶斯法则、KL 散度)、微积分与变分推断基础,并了解 GAN/VAE 等生成模型的大致思路。
课程特点
- 内容侧重
- 理论与实践结合
- 练习与项目
- 建议按文章顺序手推前向/反向公式并整理成笔记;有余力可从文末代码链接中选一个仓库跑通小规模训练或采样。
- 学习时长
- 1 个课节原站未给出统一学习时长;实际用时取决于已有基础。
- 内容费用
- 免费原站为个人博客,网页正文公开可访问,未标注收费;文中链接的论文与 GitHub 代码仓库可另行访问。
内容覆盖
- What are Diffusion Models?
- Forward diffusion process
- Connection with stochastic gradient Langevin dynamics
- Reverse diffusion process
- Parameterization of L_t for Training Loss
- Simplification
- Connection with noise-conditioned score networks (NCSN)
- Parameterization of β_t
- Parameterization of reverse process variance Σ_θ
- Conditioned Generation
- Classifier Guided Diffusion
- Classifier-Free Guidance
- Speed up Diffusion Models
- Fewer Sampling Steps & Distillation
- Latent Variable Space
- Scale up Generation Resolution and Quality
- Model Architecture
- Quick Summary
- References
来源与使用须知
- 收录时间
- 本站首次收录 2026-10-15
- 指南参考
- 课程主页
版权与转载
- 课程材料未标明许可:仅供个人学习,转载、修改或商用前请先联系原作者。
- 本站只提供原始链接和学习指南,不转载、不镜像课程材料;引用时请注明原作者与出处。