从POLY2至FFM模型的演进过程

文章目录

• Poly2 model *
• FM model *
• FFM model introduces the concept of special domains *
• The evolution process from Poly2 to FFM model *

POLY2模型

poly2模型进应用征的“暴力”组合的方式

该模型经过两两交互作用（选择任意两个不同的特征变量X_j1和X_j2）后，并对其所有可能的二元组都赋予相应的权重系数W_h(j_1,j_2)。POLY2通过穷举所有可能的二元组来解决这一问题，在一定程度上缓解了传统方法中对高阶多项式的计算需求。

POLY2模型本质上仍然是线性模型，训练方法与逻辑回归一样。

POLY2存在缺陷：

• POLY2在执行非主动式的特征交叉操作，并在进行one-hot编码的过程中。
  • 这种操作使得原本就已经非常稀疏的特征向量变得更加稀疏。
  • 这种情况导致大部分交叉特征的权重缺乏足够的有效数据来进行训练。
  • 因此这些交叉项的权重难以得到有效优化