文献阅读：Sum-product networks—a novel deep architecture

Sum-Product Networks: A New Deep Architecture

---

H. Poon, P. Domingos, Sum-Product Networks: A New Deep Architecture, ICCV (2011), 最佳论文奖

---

摘要

图模型中推理与学习过程的关键限制因素在于配分函数的计算复杂性。

本研究引入了一种和积网络（SPN），其结构为以变量作为叶节点，内部节点执行和与积运算，并且边带有权重的有向无环图（SPNs 是具有变量作为叶子节点、内部节点为和与积操作、边带有权重的有向无环图）。

当 SPN 具备完备性和一致性时，该网络能够表达特定图模型的配分函数及所有边缘分布，并赋予其节点相应的语义含义。

本文设计了一种结合反向传播与 EM 算法的 SPN 学习方法。

相较于传统深度网络，SPN 在学习与推理过程中展现出更高的运算效率及更优的准确性能。

1 引言

图模型（graphical models）通过将概率分布表示为多个因子的归一化乘积形式，实现了对复杂分布的简洁描述，其数学表