视频字幕
DeepFM是一种创新的推荐系统模型,它巧妙地结合了因子分解机和深度神经网络的优势。FM组件负责捕捉低阶特征交互,特别是二阶特征组合,而DNN组件则学习高阶复杂的特征模式。这种设计使得模型无需人工特征工程就能自动发现有效的特征组合,在点击率预估等任务中表现优异。
DeepFM的核心在于其数学公式设计。FM组件计算一阶线性项和二阶特征交互,其中向量内积捕捉特征间的相关性。DNN组件通过多层神经网络学习高阶非线性特征组合。最终输出是两个组件结果的加权和,通过sigmoid函数得到预测概率。两个组件共享相同的embedding层,确保特征表示的一致性。
xDeepFM是DeepFM的重要改进版本,核心创新在于引入了压缩交互网络CIN。与DNN的隐式特征交互不同,CIN通过向量外积显式地建模特征交互,每一层都能产生特定阶数的特征组合。xDeepFM同时保留了线性部分、FM部分、CIN部分和DNN部分,形成了四路并行的学习架构,大大增强了模型的表达能力和特征学习的可解释性。
CIN网络的核心是向量外积操作。每一层通过计算前一层特征与原始输入特征的外积来生成新的交互特征。公式中的圆圈表示向量外积,W是可学习的参数矩阵。这种设计使得每一层都能显式地建模特定阶数的特征交互,第k层对应k阶特征组合。最后通过池化操作将各层输出合并,保留了不同阶数的交互信息。
总结来看,DeepFM和xDeepFM都是优秀的推荐模型。DeepFM结构简单,易于实现和部署,适合对计算资源有限制的场景。xDeepFM通过引入CIN网络,具有更强的特征表达能力和更好的可解释性,但计算复杂度相对较高。两个模型都广泛应用于点击率预估、推荐系统和广告投放等领域,是现代推荐系统的重要基础模型。