算法简述

相比于一般的线性模型，FM模型将交叉特征的影响考虑在内。
也适用于处理输入数据稀疏的情况。

数学公式

因子分解机模型

在这里插入图片描述

二项交互的推导，使复杂度降低到线性

在这里插入图片描述

进一步转换为矩阵形式

$y_{m\times 1} = W_{0_{m\times 1}} + X_{m\times n}W_{1_{n\times 1}} + \frac{1}{2}(\sum((X_{m\times n}V_{n\times k} -X_{m\times n}^2V^2_{n\times k} )_{m\times k}) )_{m\times 1}$

输入数据稀疏适用

假设给定数据：
在这里插入图片描述
给定数据集如上图所示，表达的是用户对电影的评分，附加给了一些电影的信息，用户对其他电影的评分情况，以及用户的一些其他特征。每一行表示一个样本。

在FM模型的设定下，针对稀疏数据，也可以估计出特征的交互对预测目标的影响。
举个例子，假设我们想估计 Alice(A) 和 Star Trek 的交互关系对评分y的贡献。
数据中，并没有 Alice 对 Star Trek 直接的评分数据, 交互关系是 0.
但是，借助于 FM，我们可以估算出 $V_{A}, V_{ST}>$ .

由于对 SW 有相同的评分，Bob 和 Charlie 与 SW 的交互相似，也就是 $V_{B}, V_{SW}>$ , $V_{C}, V_{SW}>$ 相近.
Alice 和 Charlie 对 Titanic 和 SW 的评分不同， $V_{A}$ 和 $V_{C}$ 不同.
Bob 对 ST 和 SW 的评分接近，所以 $V_{SW}$ 和 $V_{ST}$ 相近.
从而， $V_{A}, V_{ST}>$ 与 $V_{A}, V_{SW}>$ 相近.

代码实现

这里只给出交互部分的实现供参考

from tensorflow import keras
from tensorflow.keras import layers
import tensorflow as tf
import os
os.environ["TF_CPP_MIN_LOG_LEVEL"] = "2"

class interaction_layer(layers.Layer):
    def __init__(self, k_units) -> None:
        super(interaction_layer,self).__init__()
        self.k_units = k_units
        
    
    def build(self, input_shape):
        self.V = self.add_weight(
            shape=(input_shape[-1], self.k_units), initializer="random_normal", trainable=True
        )


    def call(self, X):
        # 传入 X 后的计算
        # X 输入的形状是(m, n), self.V (n, k)
        x = 0.5 * tf.reduce_sum(tf.matmul(X, self.V) **2 -  tf.matmul( X**2,self.V **2), axis = 0)
        return x