推荐系统笔记7基于产品类型的神经网络用于用户响应预测

本文概述了乘积型神经网络在用户行为预测中的应用（简称PNN），并提供了该领域的详细研究资料。

具体的代码实现见Github

摘要

与上文介绍的FNN模型相仿，在本次研究中也聚焦于用户互动相关的指标（如CTR、CVR等）进行模型构建。由于这类问题通常具有类别属性且涉及多个字段特性，则使得传统模型主要局限于提取较为基础的特征模式；此外，在实际应用中深度神经网络难以直接处理高维稀疏数据（因其涉及过大的特征空间）。基于此背景研究则提出了一种基于层次交互关系的学习方法——Product层通过捕获各层级别间的关联模式，并结合多层次全连接结构深入挖掘复杂交互关系；最终目标是实现各层次别间关联关系的有效建模与信息融合。

一、介绍

在信息检索领域中（尤其是推荐系统中），其数据格式通常是多个field构成的），例如**[Weekday=Tuesday, Gender=Male, City=London]** ，可以通过One-hot编码将其转化为稀疏形式（sparse data）。这种稀疏形式通常可使用Logistic回归（LR）、Factorization Machines（FM）以及梯度提升决策树（GBDT）等方法来处理，并取得较好的效果。然而，在Factorizatio