视频字幕
Deep & Wide 模型是 Google 在 2016 年提出的一种创新的推荐系统架构。它的核心思想是将传统的线性模型与深度神经网络相结合，从而同时获得记忆能力和泛化能力。Wide 部分负责记忆历史数据中的直接关联，Deep 部分负责发现潜在的复杂模式。
Wide 部分是深度宽度模型的记忆组件。它使用线性模型直接学习特征之间的交叉组合，能够快速记住训练数据中出现过的模式。比如某个用户对某类商品的历史偏好，Wide 部分可以直接记住这种关联并快速做出推荐。这种方式简单高效，特别适合处理稀疏的分类特征。
Deep 部分是模型的泛化组件，采用多层前馈神经网络结构。它首先将稀疏的分类特征转换为低维稠密的嵌入向量，然后通过多个隐藏层学习特征之间的复杂非线性关系。这种结构能够发现训练数据中没有直接出现过的模式，为新的用户和物品组合提供合理的预测，具有很强的泛化能力。
Deep & Wide 模型的训练采用联合优化策略。最终输出是两部分预测结果的加权和，通过 Sigmoid 函数得到概率值。在优化过程中，Wide 部分使用 FTRL 优化器，这种优化器特别适合处理大规模稀疏特征；Deep 部分使用 AdaGrad 优化器，能够自适应地调整学习率。两部分同时训练，参数共同更新，从而实现记忆和泛化的平衡。
Deep & Wide 模型在工业界有广泛应用，特别是在 Google Play 应用推荐、YouTube 视频推荐等场景中取得了显著效果。相比传统的单一模型，Deep & Wide 模型真正实现了记忆和泛化的平衡：既能记住用户的历史偏好，又能为新用户和新物品提供合理推荐。这种设计使其在实际生产环境中表现出色，成为推荐系统的重要里程碑。
Wide 部分是深度宽度模型的记忆组件。它使用线性模型直接学习特征之间的交叉组合，能够快速记住训练数据中出现过的模式。比如某个用户对某类商品的历史偏好，Wide 部分可以直接记住这种关联并快速做出推荐。这种方式简单高效，特别适合处理稀疏的分类特征。
Deep 部分是模型的泛化组件，采用多层前馈神经网络结构。它首先将稀疏的分类特征转换为低维稠密的嵌入向量，然后通过多个隐藏层学习特征之间的复杂非线性关系。这种结构能够发现训练数据中没有直接出现过的模式，为新的用户和物品组合提供合理的预测，具有很强的泛化能力。
Deep & Wide 模型的训练采用联合优化策略。Wide 部分和 Deep 部分的输出首先相加，然后通过 Sigmoid 函数得到最终的预测概率。在优化过程中，Wide 部分使用 FTRL 优化器处理稀疏特征，Deep 部分使用 AdaGrad 优化器处理稠密特征。两部分参数同时更新，实现端到端的联合训练。
Deep & Wide 模型在工业界有广泛应用，特别是在 Google Play 应用推荐、YouTube 视频推荐等场景中取得了显著效果。相比传统的单一模型，Deep & Wide 模型真正实现了记忆和泛化的平衡：既能记住用户的历史偏好，又能为新用户和新物品提供合理推荐。这种设计使其在实际生产环境中表现出色，成为推荐系统的重要里程碑。