变分自编码器（VAE）

在本篇文章中，我将从变分自编码器的来源出发，从两个角度分别引出其网络和目标函数

VAE的思想来源

如果我们有一批样本，然后想生成一个新样本，我们应该怎么做呢？

首先，最直接的想法是根据已有样本得到真实分布$P_{data}(x)$，从而根据$P_{data}(x)$采样即可获取新样本

但是很可惜，我们很难获得$P_{data}(x)$，并且通常$P_{data}(x)$是复杂的，不容易采样

于是我们有了一个新的想法，要是$P_{data}(x)$是一个我们已知的很简单的分布就好了，比如我们假设它就是一个高斯分布。这样我们可以通过极大似然估计求出高斯分布的参数。然而这种假设太强了，对于很多情况是不适用的。

于是我们再想到，既然这个假设太强的话，我们假设$P_{data}(x)$是多个高斯分布的叠加呢，即高斯混合模型（GMM）。我们假设有一个隐变量z服从多项式分布，表示样本来自于哪个高斯分布。我们只要先对z采样，得到相应的高斯分布P(x|z)，然后对P(x|z)采样就能得到新样本了。

这么一来，显然模型的表达能力变强了

但是我们仍然不满意，高斯混合模型只能解决有限的多峰问题。

假如我们的样本的真实分布有无数个峰呢，高斯混合模型就不行了。

那我们再改进一下，我们假设$P_{data}(x)$是无数个高斯分布的叠加那不就解决了前面的问题了吗。

那么，问题来了，P(z)可以随意设定为一个连续性的分布，通常假设为N(0,1)的高斯分布，但是我们怎么得到P(x|z)呢？或者说，我们怎么得到P(x|z)的均值和方差？

从训练的角度

变分自编码器首先提出，用神经网络模型计算P(x|z)的均值和方差

但是我们知道，这个网络没法训练，因为这个网络输入的是一个在N(0,1)上随机采样的z，输出的是$\mu$和${\sigma }^2$或者说是一个高斯分布，我们并没有一个跟z相关的高斯分布的标签计算KL散度，然后让KL散度最小用于更新参数，或者如果有一个跟z对应的x，我们可以根据采用得到的x与标签x求mse，这样也能更新参数。

那么怎么办呢？既然没有标签，那我们就创造标签。

自编码器网络通过一个编码器和解码器创造了z和x的双向映射关系，那么我们可不可以借鉴这种思路呢？

自编码器的映射关系是确定性的，即z=f(x),x = g(z)

上面的网络已经创建了z->x的映射，输入z，输出的是p(x|z)这个高斯分布，采样得到x，我们很容易想到从x->z的映射就是，输入x，输出的是q(z|x)这个高斯分布，采样得到z

本质上，变分自编码器创造的是q(z|x)分布与P(x|z)分布的映射关系，与具体的值无关。

这么一来的话，我们的新网络结构如图：

我们分析一下这两个网络的最终目标，推断网络希望获得一个合适的后验分布，使得根据这个后验分布采样的z能表示代码x的编码，即可解码。生成网络则希望根据给定的编码，获得一个合适的似然分布，根据这个分布采样的x要尽可能与原来的x一致。

但是，我们之前已经假定了z服从N(0,1)这个高斯先验，而最终学出来的生成网络适应的z是q(z|x)生成的z，而我们是不知道q(z|x)的，因为我们得先有x，才有q(z|x)，但是生成新样本要求我们先有z。

但是如果q(z|x)与p(z)先验很接近的话，那么我们直接使用p(z)近似q(z|x)进行采样也是可以的。

因此，总体来说，我们有两个目标，一个是让$\hat{x}$与$x$尽可能接近，即重构损失$\frac{1}{2}(x-\hat{x}{)}^2$最小，另一个是q(z|x)与p(z)尽可能接近，我们用KL散度表示两个分布的接近程度$KL(q(z|x)||p(z))$。

尽管我们现在有了标签，并且定义好了损失函数我们的网络仍然无法训练，因为涉及了两次采样操作，采样是没办法计算梯度的。

所以有两个解决办法，重参数化和梯度估计。我们这里只介绍重参数化的方法。

重参数化

我们可以将z的随机性转移，假如有$ϵ\sim N(0,1)$，那么另$z=\mu +ϵ\ast \sigma$，这样z仍然服从$N(\mu ,{\sigma }^2)$，但是z关于$\varphi$的梯度就不再为0了。那么第一个采样问题解决了，第二个难道也这么做吗？

其实没有必要，因为第二次采样在训练网络时不是必要的，我们可以直接用${\mu }_G$代替$\hat{x}$，因为${\mu }_G$是样本均值，更能代表普遍的采样结果。那为什么第一次采样不用${\mu }_z$代替呢？这样做的话，就退化成自编码器了。没有噪声输入，生成网络的鲁棒性就不够强，其适应的是一批特定的编码，而非一个简单的分布

从EM算法角度

前面我们从模型训练的角度导出了变分自编码器的网络结构和目标函数，但是有些地方还是有些牵强，缺乏逻辑。所以我们还是从数学的角度推导出上述结构

首先，我们先回顾一下原始的EM算法的过程：

E步：固定$\theta$，求$q(z|x)=argma{x}_{q(z|x)}ELBO=P_{\theta }(z|x)$

M步：固定$q(z|x)$，求$\theta =argma{x}_{\theta }ELBO$

由于$P(z|x;\theta )$很多时候是无法得到或难以求解的，所以提出了变分推断的方法，变分推断不要求E步的时候计算出后验分布，而是只要给出一个接近后验分布的q(z|x)就够了。也就是说，E步这个过程我们可以使用基于迭代的方法求近似解。比如基于平均场理论的变分推断利用坐标上升法迭代求解，SGVI通过梯度上升法求解。

变分自编码器就是一个基于梯度的方法。

首先，E步由于找的是一个函数，ELBO没办法对函数求梯度，所以我们将q(z|x)参数化，基于我们前面提到的假设，q(z|x)是一个高斯分布，参数未知，我们假设为$\varphi$

于是变分EM算法如下：

E步：固定$\theta$，求$\varphi =argma{x}_{\varphi }{E}_{z\sim q_{\varphi }(z|x)}log\frac{p_{\theta }(x|z)p(z)}{q_{\varphi }(z|x)}$

M步：固定$\varphi$，求$\theta =argma{x}_{\theta }{E}_{z\sim q_{\varphi }(z|x)}log\frac{p_{\theta }(x|z)p(z)}{q_{\varphi }(z|x)}$

简单起见，我们假设q(z|x)的方差是对角矩阵，p(x|z)的方差是$\lambda I$

$$\begin{array}{rl}{E}_{z\sim q_{\varphi }(z|x)}log\frac{p_{\theta }(x|z)p(z)}{q_{\varphi }(z|x)}& =\frac{1}{M}\sum _{i=1}^{M}log{p}_{\theta }(x|z^{(i)})+KL(q_{\varphi }(z|x)||p(z))\\ & =\frac{1}{M}\sum _{i=1}^M\frac{1}{\sqrt{2\pi }}(x-{\mu }_{\theta }^{(i)}{)}^2+\frac{1}{2}\sum _{i=1}^d\left({\mu }_{\varphi i}^2+{\sigma }_{\varphi i}^2-\log {\sigma }_{\varphi i}^2-1\right)\end{array}$$
我们再简化一下，假设只采样一个z近似期望，那么
$$\begin{array}{rl}{E}_{z\sim q_{\varphi }(z|x)}log\frac{p_{\theta }(x|z)p(z)}{q_{\varphi }(z|x)}& =[\frac{1}{2}(x-{\mu }_{\theta }(z){)}^2-log(\sqrt{2\pi })]+\frac{1}{2}\sum _{i=1}^d\left({\mu }_i^2+{\sigma }_{\varphi i}^2-\log {\sigma }_{\varphi i}^2-1\right)\end{array}$$
常数项我们可以忽略，因为对argmax不影响。且由于E步和M步的目标一致，我们可以同时优化
$$\varphi ,\theta =argma{x}_{\varphi ,\theta }\frac{1}{2}(x-{\mu }_{\theta }(z){)}^2+\frac{1}{2}\sum _{i=1}^d\left({\mu }_i^2+{\sigma }_{\varphi i}^2-\log {\sigma }_{\varphi i}^2-1\right)$$
我们使用神经网络来预测$\theta$和$\varphi$，这样一来，将EM算法过程抽象为网络结构即为：

E步：输入x，通过神经网络求得$\varphi$，然后根据$q_{\varphi }(z|x)$采样得到$z_1,z_2,...z_M$

M步：输入z，通过神经网络求得$\theta$

更新：计算ELBO的关于$\theta$和$\varphi$的梯度，更新参数

到这里我们就可以看出，这里的E步就对应上面提到的推断网络，M步则对应生成网络，也解释了为什么只对z采样而不对x采样（因为EM过程不需要对x采样）。目标函数的前一项对应重构损失，后一项对应q(z|x)与p(z)的KL距离

到此，整个变分自编码器的介绍就结束了。

现在我们再看变分自编码器这个名字，所谓变分指的是该模型使用的近似后验分布q(z|x)代替p(z|x)，而自编码器则是因为它借鉴了自编码器的思路从而EM过程抽象成了类似自编码器的编码+解码的结构。二者的差别就是变分自编码器的编码器和解码器都输出分布，而自编码器输出具体的编码。显然变分自编码器具有更强的鲁棒性。