VAE模型的核心推导过程
发布时间
阅读量：
阅读量
参考文章《Auto-Encoding Variational Bayes》.
假设数据集遵循独立同分布模型（I.I.D），每个样本均遵循随机分布p(\cdot)；数据集共计包含N个样本。基于此构造一个由N个随机变量构成的联合概率分布p(\mathbf x_1,\text{...},\mathbf x_N)=\prod_{i=1}^N p(\mathbf x_i)；从最大似然估计的角度审视这一联合分布，则当所涉变量恰为数据集样本（即：由抽样点所形成的联合状态的概率）时，在这种情况下该联合分布的概率值应达到峰值。
对上述联合概率取对数似然运算可得：
\ln p(\mathbf X) = \sum_{i=1}^N \ln p(\mathbf x_i)
因为Dataset内在结构 P(\cdot)我们无法完全掌握其具体形式，并因此无法直接构造新的样本数据；这也正是生成模型最终追求的核心目标——能够自动生成多样化的样本数据。VAE（Variational Auto-Encoder）作为一种先进的生成模型，在试图解决这一挑战的过程中引入了隐变量这一关键概念；如图所示：
还没有任何评论哟~