[游戏开发] 自监督学习用于推荐系统问题综述

开发: C++知识库 Java知识库 JavaScript Python PHP知识库人工智能区块链大数据移动开发嵌入式开发工具数据结构与算法开发测试游戏开发网络协议系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑笔记本显卡显示器固态硬盘硬盘耳机手机 iphone vivo oppo 小米华为单反装机图拉丁

-> 游戏开发 -> 自监督学习用于推荐系统问题综述 -> 正文阅读

[游戏开发]自监督学习用于推荐系统问题综述

分享一篇自监督学习用于推荐系统的综述，先上link：

title：Self-Supervised Learning for Recommender Systems: A Survey
paper：https://arxiv.org/abs/2203.15876
code：https://github.com/Coder-Yu/SELFRec

在博主之前的文章中，对比学习用于推荐系统问题（SSL，S^3-Rec，SGL，DHCN，SEMI）中曾经提到，自监督学习被引入推荐系统领域主要有以下优势：

舒缓数据稀疏。一般来说推荐系统的数据集，有点击的监督数据不便于收集，非常少，而且高度稀疏化，因此通过自监督学习是可以对数据进行增强和扩增的；
舒缓噪音干扰。不但数据集稀疏，而且比如点击数据存在误点错点击等等的现象，因此解决噪音干扰也是自监督学习可以提供的优势。
舒缓长尾分布。另外长尾问题甚至冷启动问题也基本是一直伴随着这个领域，所以一些冷门商品和用户的学习在这种情况下会更加的不充分，因此用自监督进行增强也是不错的选择。

这篇综述则更为全面的整理Self-Supervised Recommender（SSR）的各方面，本篇博文将简要整理其文章主干。

Self-Supervised Learning for Recommender Systems: A Survey
1自监督推荐系统SSR的基本特征：

通过半自动化的方式获取更多的监督信号。
通过一个辅助任务利用增强的数据来微调推荐系统。
辅助任务（Pretext task）协助推荐系统任务（Primary task）来完成更高性能的推荐模型。

其中，第一点确定了SSR的基本范围，第二点确定了SSR区别于推荐系统其他领域的问题设置，而第三点阐述了与推荐主任务与辅助任务的关系。

在这里插入图片描述
2自监督推荐系统SSR的方法分类：

Contrastive。对比式方法主要思想是通过数据增强任务来拉进两个相近实例的表示，拉远两个不相近实例的距离。
Generative。生成式方法主要思想是利用数据当中的一部分来预测另一部分，其是受自然语言处理领域带掩码的语言模型的启发。
Predictive。预测式方法与生成式方法类似，其都拥有预测任务。主要思想是利用半监督学习技术来预测富有信息量的新样本或者伪标签。
Hybrid。混合式方法主要思想是集成上述提及的任务一种或者多种辅助任务，并利用不同的权重将其整合起来。

在这里插入图片描述
3自监督推荐系统SSR的训练方式：

Joint Learning。联合训练模式主要框架是通过一个共享的编码器来同时优化主任务与辅助任务。
Pre-train and Fine-tune。预训练训练模式主要框架是首先在辅助任务上预训练，然后在推荐主任务上进行微调操作。
Integrated Learning。综合训练模式通过将主任务与辅助任务进行对齐进而利用整体的损失函数进行优化。

4自监督推荐系统SSR的数据增强：

Sequence-based。主要可以被分为Item Mask，Item Cropping，Item Reordering，Item Substitution与Item Insertion，具体如下图所示的一些操作。
Graph-based。主要可以被分为Edge/Node Dropout，Graph Diffusion与Subgraph Sampling
Feature-based。主要可以被分为Feature Dropout，Feature Shuffing，Feature Clustering与Feature Mixing。

在这里插入图片描述

5开源工具包SELFREC，其包括了多个基准数据集以及评价指标，另外还实现了超10种SSR算法。
在这里插入图片描述

from SELFRec import SELFRec
from util.conf import ModelConf

if __name__ == '__main__':
    #Register your model here
    graph_models = ['SGL','SimGCL']#,'BUIR','SelfCF','SEPT','MHCN']
    sequential_models = []
    dnn_models = []

    print('='*80)
    print('   SELFRec: A library for self-supervised recommendation.   ')
    print('='*80)

    print('Graph-based Models:')
    print('   '.join(graph_models))

    print('='*80)
    model = input('Please enter the model you want to run:')
    import time
    s = time.time()
    if model in graph_models or model in sequential_models or model in dnn_models:
        conf = ModelConf('./conf/' + model + '.conf')
    else:
        print('Wrong model name!')
        exit(-1)
    rec = SELFRec(conf)
    rec.execute()
    e = time.time()
    print("Running time: %f s" % (e - s))