[人工智能]19【CTR15】会话兴趣?络

1、前言

在CTR预估中，从用户的行为序列中捕捉用户动态变化的兴趣一直是一个热门课题。然而现在大部分研究都集中在Sequence中而不是Session。观察到，每个Session 中的用户行为都是高度同构的，而Session之间都是异构的。

基于这一发现，提出了一种新的CTR模型――深度会话兴趣网络(Deep Session Interest Network,DSIN)。该模型主要是基于用户的行为序列来构建多个Session，利用带有带有偏置的self-attention 来提取用户的在每个Session中兴趣，然后利用Bi-LSTM来建模用户兴趣的发展和演化，最后利用局部激活单元自适应的学习各种兴趣对目标item 的影响。

self-attention :5.1注意力机制 Attention is all you need

先来介绍一下 Sequence和 Session的概念。

Sequence是指用户总的行为序列，而Session会考虑给定时间内发生的行为序列。简单来说，Sequence是由多个 Session组成的。(虽然之前就有Session的概念，但是这里作者强调了一下Session的重要性)

作者发现单个Session 内的具有高度的同构性，而Session间则具有高度的异构性。图1是一个从真实的工业应用程序中收集的Session演示。图片下方的数字表示点击当前商品和点击第一个商品之间的时间间隔，单位为秒。Session按照时间间隔超过30分钟的原则进行划分。

$$图1$$

我们可以看到该用户在Session 1是点击的都是裤子，Session 2是戒指，Session 3就变成了衣服，这反应用户兴趣的明确性(Session内）和变化性(Session间)。

2、相关知识

为什么提出DSIN？

经过观察，发现每个会话内的行为比较相近，不同会话之间差别较大。【说明数据分析的重要性，结合对业务的认知，对session进行建模，提出DSIN】

DSIN模型来对用户的多重Session进行建模，建模步骤如下:

1. 首先将用户的顺序行为自然的划分为多个Session;
2. 然后使用带有偏置的Self-Attention网络去编码每个 Session，self-attention可以捕捉Session内部的关联，进而提取用户的兴趣;
3. 接着利用 Bi-LSTM来捕捉用户不同历史session兴趣间的发展和演化;
4. 由于不同的session对目标项有不同的影响，利用局部激活单元来学习目标项与session之间的关系，得到最终的行为序列表示

• 文章贡献：

1. 强调了用户在同一个session中相似度较高，在不同session中差异较大的问题，提出DSIN模型用于CTR任务
2. 设计了偏移的自注意力机制得到每个session的表示；Bi-LSTM捕捉session之间的关系；利用局部激活单元学习不同session对目标项的影响
3. 利用两个数据集实验，和多种模型比较并进行可视化分析，证明模型效果较好

3、模型结构

图2展示了 DSIN 模型的架构

$$\begin{gathered} 图2：DSIN模型DSIN。总的来说，在MLP层之前，DSIN有两个主要组成部分。 \\ 一个是稀疏特征，另一个处理用户行为序列。从下至上，首先将用户行为序列S \\ 划分为sessionQ，然后通过偏置编码和self?attention意提取session兴趣I。 \\ 通过Bi?LSTM,融合session兴趣I与上下文信息隐状态H. \\ I和隐状态H和用户特征嵌入向量和商品嵌入向量连接 \\ ,然后送入MLP层最后预测。 \end{gathered}$$
DSIN的最上面的是一个MLP结构，其输入由两部分组成，一个是由User Profile 和 ltem Profile 的Embedding 特征组成的;另一块基于用户行为提取到的特征.

基于用户行为提取到的特征从低到上分为四层，分别为∶

1. Session division layer:将用户的行为序列(sequence)划分为会话session;.
2. Session interest extractor layer:抽取用户会话的兴趣;
3. Session interest interacting layer:捕获会话兴趣之间的顺序关系;
4. Session interest activating layer:利用局部激活单元自适应目标ltem。

Session division layer

首先是划分层, 输入一段用户的行为序列, 然后基于 30 分钟的时间间隔将用户的行为序列划分为多个session, 第 $\mathrm{k}$ 个 session 表达为 ${\mathbf{Q}}_k=\left[{\mathbf{b}}_1;\dots ;{\mathbf{b}}_i;\dots ;{\mathbf{b}}_T\right]\in {\mathbb{R}}^{T\times d_{\text{model?}}},\mathrm{T}$ 是该 session 所含行为的长度,$d_{\text{model?}}$ 为行为 Embedding 后的长度。

Session interest extractor layer

同一session 中的行为之间有着密切的联系，但其中也会包含一些用户随意行为带来的噪声。为了捕捉到同一session中行为之间的内在联系，减少不相关行为的影响，作者使用了带有偏置的多头自注意力机制来达到这一目的。

该层的架构如下图所示，从下往上看(multi-head attention层到add & norm层少了一个箭头)∶

5.3 Transformer意境级讲解

Bias Encoding：在 Transformer 中, self-attention 使用 positional encoding 来考虑 sequence 的顺序性。这里作者设计 Bias Encoding 代替 positional encoding ， 来捕捉 session 的顺序性和表示空间中的偏置。第k个session中第t个行为向量的第c个位置的偏移 :
$$\mathbf{B}{\mathbf{E}}_{k,t,c}={\mathbf{w}}_k^K+{\mathbf{w}}_t^T+{\mathbf{w}}_c^C$$
其中, ${\mathbf{w}}_k^K\in {\mathbb{R}}^K$ 表示第 $\mathrm{k}$ 个 session 的偏置向量; ${\mathbf{w}}_t^T\in {\mathbb{R}}^T$ 表示 session 中第 $\mathrm{t}$ 个行为的偏置向量;${\mathbf{w}}_c^C\in {\mathbb{R}}^{d_{\text{model?}}}$ 为第C个位置的偏移量。 ${\mathbf{B}\mathbf{E}}_{k,t,c}\in {\mathbb{R}}^{K\times T\times d_{\text{model?}}}$

所以用户行为 session 为：
$$\mathbf{Q}=\mathbf{Q}+\mathbf{B}\mathbf{E}$$
Multi-head Self-attention：作者利用多头自注意力机制来捕获不同特征子空间对的关系。用户的第 $\mathrm{k}$ 个session 为：

$${\mathbf{Q}}_k=\left[{\mathbf{Q}}_{k1};\dots ;{\mathbf{Q}}_{kh};\dots ;{\mathbf{Q}}_{kH}\right]$$
其中, ${\mathbf{Q}}_{kh}\in {\mathbb{R}}^{T\times d_h}$ 为 ${\mathbf{Q}}_k$ 的第 $\mathrm{h}$ 个 head, $\mathrm{H}$ 为 head 的数量, ${\mathbf{d}}_h={\mathbf{d}}_{\text{model?}}/\mathbf{h}$ 。

输出 $hea{d}_h$ 为:
$$\begin{array}{rl}{\text{?head?}}_h& =\text{?Attention?}\left({\mathbf{Q}}_{kh}{\mathbf{W}}^Q,{\mathbf{Q}}_{kh}{\mathbf{W}}^K,{\mathbf{Q}}_{kh}{\mathbf{W}}^V\right)\\ & =\mathrm{softmax}\left(\frac{{\mathbf{Q}}_{kh}{\mathbf{W}}^Q{\mathbf{W}}^{K^T}{\mathbf{Q}}_{kh}^T}{\sqrt{d_{\text{model?}}}}\right){\mathbf{Q}}_{kh}{\mathbf{W}}^V\end{array}$$
其中, ${\mathbf{W}}^Q,{\mathbf{W}}^K,{\mathbf{W}}^V$? 为线性矩阵。

简单回顾下 self-attention 的原始公式，以帮助我们进行理解上面公式：
$$\text{?Attention?}(Q,K,V)=\frac{Q{K}^T}{\sqrt{d_k}}V$$
然后将各个 head 的得到向量拼接到一起送入到前馈网络中:
$${\mathbf{I}}_k^Q=\text{?FFN?}\left(\text{?Concat?}\left({\text{?head?}}_1,\dots ,{\text{?head?}}_H\right){\mathbf{W}}^O\right)$$
其中, $\mathrm{F}\mathrm{F}\mathrm{N}$ 为前馈网络, ${\mathbf{W}}^O$ 为线性矩阵。

此外, 作者还进行了残差连接和逐层归一化。用户第 $\mathrm{k}$ 个 session 的兴趣 ${\mathbf{I}}_k$? 计算如下:
$${\mathbf{I}}_k=\mathrm{Avg}\left({\mathbf{I}}_k^Q\right)$$
其中, $\mathrm{A}\mathrm{v}\mathrm{g}$ 为平均池化层。

Session interest interacting layer

接下来作者利用Bi-LSTM来捕捉用户不同Session间的顺序关系，从而建模用户的兴趣变换。其架构如下图所示:

LSTM公式如下:
$$\begin{array}{rl}{\mathbf{i}}_t& =\sigma \left({\mathbf{W}}_{xi}{\mathbf{I}}_t+{\mathbf{W}}_{hi}{\mathbf{h}}_{t?1}+{\mathbf{W}}_{c\mathbf{c}}{\mathbf{c}}_{t?1}+{\mathbf{b}}_i\right)\\ {\mathbf{f}}_t& =\sigma \left({\mathbf{W}}_{xf}{\mathbf{I}}_t+{\mathbf{W}}_{hf}{\mathbf{h}}_{t?1}+{\mathbf{W}}_{cf}{\mathbf{c}}_{t?1}+{\mathbf{b}}_f\right)\\ {\mathbf{c}}_t& ={\mathbf{f}}_t{\mathbf{c}}_{t?1}+{\mathbf{i}}_t\tanh \left({\mathbf{W}}_{xc}{\mathbf{I}}_t+{\mathbf{W}}_{hc}{\mathbf{h}}_{t?1}+{\mathbf{b}}_c\right)\\ {\mathbf{o}}_t& =\sigma \left({\mathbf{W}}_{xo}{\mathbf{I}}_t+{\mathbf{W}}_{ho}{\mathbf{h}}_{t?1}+{\mathbf{W}}_{co}{\mathbf{c}}_t+{\mathbf{b}}_o\right)\\ {\mathbf{h}}_t& ={\mathbf{o}}_t\tanh \left({\mathbf{c}}_t\right)\end{array}$$
其中, $\sigma (?)$ 为 logistic 函数, $\mathbf{i},\mathbf{f},\mathbf{o},\mathbf{c}$ 分别为输入门、遗忘门、输出门和单位向量。都与 ${\mathbf{I}}_t$ 具有同样的大小。

隐藏层 $\mathbf{H}$ 计算如下:
$${\mathbf{H}}_t={\mathbf{h}}_{ft}\oplus {\mathbf{h}}_{bt}$$
其中, ${\mathbf{h}}_{ft}$ 表示 LSTM 的正向传播的隐藏层状态; ${\mathbf{h}}_{bt}$? 表示 LSTM 的反向传播的隐藏层状态。

Session Interest Activating Layer

与用户兴趣更相关的 Item 更可能被用户点击，所以作者使用注意力机制来刻画 item 和用户兴趣之间的权重。其架构如下所示：

该层接受了 item 的特征，然后分别与兴趣抽取层的特征和兴趣演化层的特征分别进行自适应学习。

其目的在于，每接收一个 item，模型都会考虑用户的兴趣，并利用 item 的特征和用户的兴趣特征进行加权来控制用户多种兴趣的不同权重，放大相关兴趣，并缩小不相关的兴趣。

兴趣抽取层的特征为:
$$\begin{array}{rl}{a}_k^I& =\frac{\exp \left({\mathbf{I}}_k{\mathbf{W}}^I{\mathbf{X}}^I\right))}{{\sum }_k^K\exp \left({\mathbf{I}}_k{\mathbf{W}}^I{\mathbf{X}}^I\right)}\\ {\mathbf{U}}^I& =\sum _k^K{a}_k^I{\mathbf{I}}_k\end{array}$$
兴趣演化层的特征为：
$$a_k^I=\frac{\exp \left({\mathbf{H}}_k{\mathbf{W}}^H{\mathbf{X}}^I\right))}{{\sum }_k^K\exp \left({\mathbf{H}}_k{\mathbf{W}}^H{\mathbf{X}}^I\right)}$$
$${\mathbf{U}}^H=\sum _k^K{a}_k^H{\mathbf{H}}_k$$

后面的话，就是把四部分的向量：用户特征向量、待推荐物品向量、会话兴趣加权向量${\mathbf{U}}^I$、带上下文信息的会话兴趣加权向量${\mathbf{U}}^H$进行横向拼接，输入到MLP层中，得到输出。

参考

Deep Session Interest Network for Click-Through Rate Prediction

GitHub - DSIN