推荐算法-DeepFM

前言

当前所探讨的模型为DeepFM，这是一款在业界具有重要地位的经典模型。在深入解析该模型之前，有必要先对先前模型存在的缺陷进行简要总结，这也是推动DeepFM模型诞生的关键动因。

在CTR预测任务中，高阶特征与低阶特征的学习均具有重要意义。推荐系统相关的模型我们也已学习了不少，大致经历了从最基础的线性模型（LR），到引入低阶特征交互的FM模型，再到能够处理高阶交互的神经网络模型，以及结合两者优势的W&D混合模型的发展过程。然而这些模型各自也存在一定的局限性，这正是后续不断优化与改进的基础。主要问题如下：

• 线性模型结构简单，但这也正是其不足之处。它限制了整体表达能力，在面对大规模且复杂的数据时难以充分挖掘数据中的潜在信息，并忽视了特征之间的交互关系。若需实现交互，则必须借助复杂的特征工程手段。
• FM模型引入了二阶特征交叉机制，但这种交叉仅限于二阶层面。尽管理论上可以扩展至更高阶次，但随着交叉次数增加，计算复杂度和资源消耗会急剧上升。因此实际应用中通常只采用二阶交叉方式，并忽略了更高层次的特征组合信息。
• DNN擅长学习天然存在的高阶交叉信息，却对低阶交叉信息关注不足；同时该方法不具备参数实时更新的能力，并且在记忆能力方面表现欠佳。
• W&D模型尝试将LR与DNN相结合，在保留低阶模式识别能力的同时也具备高阶组合学习能力。然而其Wide