深度学习Wide&Deep模型——记忆与泛化能力的结合

文章目录

• • Wide&Deep前言
  • 模型的记忆能力与泛化能力
  • Wide&Deep模型的结构

Wide&Deep前言

Wide&Deep 模型的核心理念正是如此命名,其架构设计由单一层次的宽广模块与多层次的深度模块结合而成的整体架构.其中宽广模块的主要功能在于增强数据存储能力,而深度模块则专注于提升模式识别的能力.由于这一独特的架构设计,使得该框架既具备逻辑回归的有效性又兼具深度学习的强大表现力——能够快速处理并提取历史行为特征,同时拥有卓越的数据表示能力.值得注意的是,该方法自发布时便迅速获得了学术界和工业界的广泛关注,并在此基础上衍生出诸多创新应用,其影响力持续至今

模型的记忆能力与泛化能力

Wide&Deep模型的设计理念旨在同时具备强大的'记忆能力'与'泛化能力'。其中,'记忆能力'是一个全新提出的概念,而尽管在先前章节中多次提及'泛化能力',但从未对其做出详细阐述,本章将对这两个核心概念进行深入解析。

所谓的"记忆能力"是指模型能够从历史数据中物品或特征的共现频率中提取并加以利用的能力。通常来说，在协同过滤或逻辑回归等简单的机器学习模型中都具备较强的记忆能力。因此，在这种情况下（即基于结构简单的模型），原始数据往往可以直接影响推荐结果，并由此生成类似"如果点击过A，则会推荐B"这样规则化的推荐机制。