单元 1: 扩散模型简介
欢迎来到 Hugging Face 扩散模型课程的第一单元!在本单元中,我们将会介绍有关扩散模型如何运作的基础知识,并介绍如何使用 🤗 diffusers 库。
开始本单元 :rocket:
在正式开始之前,我们先简单介绍一下本单元的学习步骤:
- 请完整阅读本章的所有内容,除此之外你也可以参考任何你感兴趣的其他资源
- 查看下面的 Introduction to Diffusers Notebook 链接,并尝试使用
diffuers
库将理论知识运用到实践中 - 使用 Notebook 或链接中展示的训练代码来训练和分享你自己的扩散模型
- (可选) 如果你有兴趣尝试一个非常简单的从零开始的项目、探索项目中所涉及的不同设计决策,你可以尝试一下研究 Diffusion Models from Scratch 这个 Notebook
:loudspeaker: 请不要忘了加入我们的频道 Discord, 你可以在 #diffusion-models-class
频道来讨论课程内容以及分享你的作品。
什么是扩散模型?
扩散模型是「生成模型」算法家族的新成员。通过学习给定的训练样本,生成模型可以学会如何 生成 数据,比如生成图片或者声音。一个好的生成模型能生成一组 样式不同 的输出。这些输出会与训练数据相似,但不是一模一样的副本。扩散模型是如何实现这一点的呢?为了方便说明,让我们先看看图像生成的几个案例。
图片来源于 DDPM paper (https://arxiv.org/abs/2006.11239)。
扩散模型成功的秘诀在于扩散过程的迭代本质。最先生成的只是一组完全随机的噪声,但是经过若干的去噪步骤之后,随机的高斯噪声则会变成有意义的图像。在这其中的每一步中,扩散模型都会估计如何从当前步骤的输入生成一个部分去噪的结果。这之中的每一步模型都只会尝试对带噪图片做很小的变动,所以在生成图片的初期阶段(预测最终输出实际上非常困难),去噪结果中的任何 error 都可以在之后的更新中得到纠正。
与其他类型的生成模型相比,训练一个扩散模型相对较容易。我们只需要重复以下步骤即可:
- 从训练数据中加载一些图像
- 添加不同级别的噪声。需要注意的是,我们希望模型在面对添加了极多噪声和极少的噪声的带噪图像时,都能够很好地估计如何进行 “修复”(去噪)。
- 将带噪图像输入模型中,获得去噪的结果
- 评估模型去噪的效果
- 使用此信息更新模型权重
为了用训练好的模型生成新的图像,我们从完全随机的输入开始,反复将其输入模型,每次根据模型预测对图片进行少量去噪。在之后的学习中,我们会学到有许多采样方法试图简化这个过程,使我们可以用尽可能少的步骤生成质量较高的图像。 我们将在第一单元的实践笔记本中详细介绍这些步骤。在第二单元中,我们将了解如何修改此过程,来通过额外的条件(例如类标签)或使用指导等技术来增加对模型输出的额外控制。第三单元和第四单元将探索一种非常强大的扩散模型,称为稳定扩散 (stable diffusion),它可以生成给定文本描述的图像。
实践笔记本
到这里,你已经具备了足够的知识来使用附带的笔记本了!这里的两个笔记本以不同的方式表达了相同的想法。
在 Introduction to Diffusers 这个 Notebook 中,我们使用 diffusers 库中的构造模块展示了与上述不同的步骤。你将很快看到如何根据你选择的任何数据集来创建、训练和采样你自己的扩散模型。 在笔记本结束时,你将能够阅读和修改示例训练脚本,以训练扩散模型,并将其与全世界共同分享! 本笔记本还介绍了与本单元相关的主要练习,在这里,我们将共同尝试为不同规模的扩散模型找出好的「训练脚本」- 请参阅下一节了解更多信息。
在 Diffusion Models from Scratch 这个 Notebook 中,我们展示了相同的过程(向数据添加噪声、创建模型、训练和采样),并尽可能简单地在 PyTorch 中从头开始实现。然后,我们将这个简单范例与 diffusers
版本的范例进行了比较,关注了两者的区别以及改进之处。我们希望读者能通过阅读这两个笔记本,来熟悉不同的库和其中的设计决策,以便在查看新的实现时能够快速确定关键思想。
项目时间
现在,你已经可以开始训练你自己的扩散模型了! Introduction to Diffusers 这个 Notebook 的末尾有一些小tips,希望你能与社区分享你的任何发现、成果和训练脚本,帮助大家一起找出训练这些模型的最佳方法。
一些额外的材料
- 《Hugging Face 博客: 带注释的扩散模型》是对 DDPM 背后的代码和理论的非常深入的介绍,其中包括数学和显示了所有不同的组件的代码。它还链接了一些论文供进一步阅读:
- Hugging Face 文档: 无条件图像生成 (Unconditional Image-Generation),包含了有关如何使用官方训练示例脚本训练扩散模型的一些示例,包括演示如何创建自己的数据集的代码:
- AI Coffee Break video on Diffusion Models: https://www.youtube.com/watch?v=344w5h24-h8
- Yannic Kilcher Video on DDPMs: https://www.youtube.com/watch?v=W-O7AZNzbzQ
发现了有其他任何有帮助的资源?请 向我们提出,我们会将其加入到上面的列表中。