机器学习基础 brief description

1. FM: 解决特征稀疏情形下，特征如何组合的问题。对特征进行组合，在线性模型的基础上，加上特征的二阶交叉项。直接求解会由于二阶交叉没出现过，你就学不了，多每个特征引入辅助向量，分解之后可以使用sgd求解https://www.jianshu.com/p/152ae633fb00
2. FFM：field-aware 在FM的基础上，引入field的概念，同一个category的特征经过one-hot编码生成的数值特征都可以放到同一个field，然后特征交叉的时候，每个特征不止有一个隐向量，而是有多少个field就有多少个隐向量，做特征交叉的时候，乘的向量是对应的特征所属field上的隐向量。FM可以看出FFM只有一个field的特例。假设样本有n个特征，属于f个field，那么二次项有nf个隐向量，若隐向量维度为k，则有nfk个二次参数。另外，由于FFM的二次项不能化简，其预测复杂度是0(kn^2) https://www.jianshu.com/p/781cde3d5f3d
3. DeepFM:

机器学习基础 brief description

原文：https://www.cnblogs.com/futurehau/p/12337462.html