?
在大规模工业界推荐系统的召回阶段，大都采用的是双塔模型，即通过query tower（user tower）和item tower分别得到query（user）和item的向量表示，并通过cosine距离计算二者的相似度，进而选择相似度高的item进入到排序阶段。传统的双塔模型面临以下两方面的问题：
1）两个塔之间缺乏信息交互，影响模型的收益空间
2）在美团首页推荐或其他的推荐场景下，item的种类是十分丰富的且非常不平衡的，那么模型的训练由主要的种类所主导，对于数量较小的种类的item效果会受到影响。
为了解决以上两方面的问题，论文提出了双重增强双塔模型（Dual Augmented Two-tower Model，简称DAT）。论文设计了Adaptive-Mimic Mechanism，来为每一个query和item学习一个增强向量，增强向量代表了来自另一个塔的有用信息；同时，论文还在训练阶段引入了Category Alignment Loss来缓解类别不平衡的问题，一起来看一下。
?
?
?
?
?
解决上述优化问题大致有两种，一种是SGD(随机梯度下降)。另一种是WALS，随机初始化embedding后，先固定U，求V，再固定V求U，如此反复，这种方式一定会收敛，因为每一步loss一定会降低。
SGD vs WALS
SGD:
1、非常灵活，可以用其他目标函数
2、可以并行
3、收敛慢
4、很难处理未观测的部分(需要负采样)
WALS:
1、只能用平方误差
2、可以并行
3、比SGD收敛快
4、处理未观测数据较快
矩阵分解相比较基于内容推荐，不需要领域知识，推荐更具探索性，只需要一个反馈矩阵即可训练推荐模型，操作简单。缺陷也比较明显，有明显的冷启动问题，同时也很难加入其它特征提高模型泛化性。当然，矩阵分解可以通过某种方式解决上述问题，比如冷启动，可以通过WALS更新最新的user和item向量，而不需要重train模型，再简单些，直接把相同类目item的embedding平均后作为新的item的embedding。