建设银行网站打不开其他网站可以用吗/百度推广400客服电话

扩散模型系列：
（1）扩散模型(一)——DDPM推导笔记-大白话推导
（2）扩散模型(二)——DDIM学习笔记-大白话推导
请提前关注，后续待更新，谢谢…

写在前面：
（1）建议看这篇论文之前，可先看我写的前一篇论文：
扩散模型(一)——DDPM推导笔记-大白话推导

主要学习和参考了以下文章：
（1）一文带你看懂DDPM和DDIM
（2）关于 DDIM 采样算法的推导

0. DDIM的创新点

​ DDPM有一个很大的缺点就是其本身是一个马尔科夫链的过程，推理速度太慢，如果前向加噪过程是1000步，那么去噪过程就需要使用Unet生成噪声，然后去噪，这样进行1000步。这是一个及其缓慢的过程，DDIM原论文中举了一个生动的例子：

​ For example, it takes around 20 hours to sample 50k images of size 32 x 32 from a DDPM, but less than a minute to do so from a GAN on a Nvidia 2080 Ti GPU.

​ 基于DDPM，DDIM主要有两项改进：

​ （1）对于一个已经训练好的DDPM，只需要对采样公式做简单的修改，模型就能在去噪时「跳步骤」，在一步去噪迭代中直接预测若干次去噪后的结果。比如说，假设模型从时刻T=100开始去噪，新的模型可以在每步去噪迭代中预测10次去噪操作后的结果，也就是逐步预测时刻t=90,80,…,0的结果。这样，DDPM的采样速度就被加速了10倍。

​ （2）DDIM论文推广了DDPM的数学模型，打破了马尔科夫链的过程，从更高的视角定义了DDPM的反向过程（去噪过程）。在这个新数学模型下，我们可以自定义模型的噪声强度，让同一个训练好的DDPM有不同的采样效果。

1. 公式推导

​ DDPM的推导过程可以看《DDPM推导笔记》，这里假设$P(x_{t-1}|x_t,x_0)$满足如下正态分布，即：
$$\begin{gathered} P(x_{t-1}|x_t,x_0)\sim N(k{x}_0+m{x}_t,{\sigma }^2) \\ 即:x_{t-1}=k{x}_o+m{x}_t+\sigma ϵ \\ 其中有：ϵ\sim N(0,1)\text{\hspace{1em}(1)} \end{gathered}$$
又因为前向的加噪过程满足：
$$\begin{gathered} x_t=\sqrt{\overline{a_t}}{x}_0+\sqrt{1-\overline{a_t}}ϵ \\ 其中ϵ\sim N(0,1)\text{\hspace{1em}(2)} \end{gathered}$$
合并(1)(2)上面两式，有：
$$x_{t-1}=k{x}_0+m[\sqrt{{\bar{a}}_t}{x}_0+\sqrt{1-{\bar{a}}_t}ϵ]+\sigma ϵ\text{\hspace{1em}(3)}$$
再次合并有:
$$\begin{gathered} x_{t-1}=(k+m\sqrt{{\bar{a}}_t})x_0+{ϵ}^{\prime } \\ 其中：ϵ’\sim M(0,m^2(1-{\bar{a}}_t)+{\sigma }^2)\text{\hspace{1em}(4)} \end{gathered}$$
从DDPM中可以可知：
$$x_{t-1}=\sqrt{{\bar{a}}_{t-1}}{x}_0+\sqrt{1-{\bar{a}}_{t-1}}ϵ\text{\hspace{1em}(5)}$$
通过式(4)(5)的$x_{t-1}$服从的概率分布可知：
$$\begin{gathered} k+m\sqrt{{\bar{a}}_t}=\sqrt{{\bar{a}}_{t-1}} \\ {m}^2(1-{\bar{a}}_t)+{\sigma }^2=1-{\bar{a}}_{t-1}\text{\hspace{1em}(6)} \end{gathered}$$
由式（6）两个式子可解出：

将m,k带入到$P(x_{t-1}|x_t,x_0)$中，可得：

依旧可以使用$x_t,x_0$的关系式把$x_0$去掉：
$$\begin{gathered} x_t=\sqrt{\overline{a_t}}{x}_0+\sqrt{1-\overline{a_t}}ϵ \\ 这里为了防止ϵ和后面的ϵ搞混，这里记为{ϵ}_t,则上式变为： \\ {x}_t=\sqrt{\overline{a_t}}{x}_0+\sqrt{1-\overline{a_t}}{ϵ}_t\text{\hspace{1em}(8)} \end{gathered}$$
从$P(x_{t-1}|x_t,x_0)$的概率分布采样可得到：

其中，$ϵ$是从标准正太分布中，随机采样得到；${ϵ}_t$是和DDPM一样，使用神经网络训练而来的；$x_t$是输入；${\bar{a}}_{t-1}和{\bar{a}}_t$是事先定义好的。至此，我们就只需要讨论$\sigma$这个参数了。

2. $\sigma$的讨论

​ 怎样选取$\sigma$才能获得最佳的加速效果呢？

​ 作者做了一些实验，作者原文中使用${\sigma }_{{\tau }_i}(\eta )$来表示的$\sigma$,其式子如下：

使用$\eta$控制其大小。事实上，当$\eta =1$时就变成了DDPM的去噪过程了，

当$\eta =0$时，效果是最好的。所以DDIM令$\sigma =0$。

3. $x_{prev}$的推导

​ 从式9且$\sigma =0$，则式9中的所有都已知了！！！

​ 但是，即使这样，我们也还是由$x_t推导出x_{t-1}$呀，这样还是不能加快推理！

​ 不忙，我们回过头去思考，发现上面的推导过程中全程没有使用：
$$x_t=\sqrt{a_t}{x}_{t-1}+\sqrt{1-a_t}ϵ$$
​ 也就可以不需要严格的由$x_t算到x_{t-1}$，则可以令$x_{prev}替代x_{t-1}$，式（9）则可以变换为：

​ 至此，所有的参数要是实现定义好了，要么是需要训练的，这样$x_t和x_{prev}$则可以相隔多个迭代步数。

4.疑难解答

​ Q1: 为什么式（11）可以简单的将$x_{prev}替代x_{t-1}$，毕竟虽然反向过程没有使用到$x_{t-1}算到x_t$的关系式，但前向过程是使用到的呀？

​ 目前我也没有答案！还在理解中，由大佬路过，请留言讨论！

​ Q2: 为什么在DDIM可以令方差$\sigma =0$ ?

​ 目前我也没有答案！还在理解中，由大佬路过，请留言讨论！