Module 06: Generative Models

Module 06: Generative Models

生成式模型是深度学习中最前沿的领域之一，用于生成新的数据样本。本模块涵盖 VAE、GAN 和扩散模型等核心技术。

---

Overview

Topic	Description	Status
VAE	变分自编码器	✅
GAN	生成对抗网络	✅
Diffusion	扩散模型	✅
Applications	实际应用	✅

---

Learning Path

1. Variational Autoencoders (VAE)

核心概念：

• 潜在空间学习
• 重参数化技巧
• 变分推断

关键公式：

ELBO = E_q[log p(x|z)] - KL(q(z|x) || p(z))

2. Generative Adversarial Networks (GAN)

核心概念：

• 生成器与判别器
• 对抗训练
• 模式崩溃

经典架构：

• DCGAN
• WGAN
• StyleGAN

3. Diffusion Models

核心概念：

• 前向扩散过程
• 反向去噪过程
• 条件生成

应用：

• 图像生成（Stable Diffusion）
• 文本到图像（DALL-E）

---

Practical Projects

• 手写数字生成 (MNIST GAN)
• 人脸生成 (CelebA)
• 文本生成 (Language Model)

---

References

• Kingma & Welling, "Auto-Encoding Variational Bayes" (ICLR 2014)
• Goodfellow et al., "Generative Adversarial Nets" (NeurIPS 2014)
• Ho et al., "Denoising Diffusion Probabilistic Models" (NeurIPS 2020)

---

⬆ Back to Top