IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> 2021-07-05 -> 正文阅读

[人工智能]2021-07-05

基础架构篇

1. 技术架构

  1. 基本定义:
    物品信息:视频信息、物品信息、新闻信息等;
    用户信息:历史行为、人口属性、关系网络等;
    场景信息:又称上下文信息。用户的最终选择一般会受时间、地点、用户的状态等一系列场景信息的影响。

  2. 推荐系统要解决的根本问题:
    简单化定义:在“信息过载”的情况下,用户如何高效获取感兴趣的信息。
    形式化定义:对于某个用户U(User),在特定场景C(Context)下,针对海量的“物品”信息构建一个函数 ,预测用户对特定候选物品i(Item)的喜好程度,再根据喜好程度对所有候选物品进行排序,生成推荐列表的问题。

  3. 推荐系统逻辑架构图:
    在这里插入图片描述

  4. 工程师要解决的两类问题
    ~1. 数据和信息问题:“用户信息”,“物品信息”,“场景信息”分别是什么?如何存储、更新和处理?该部分逐渐发展为:推荐系统中融合了数据离线批处理、实时流处理的数据流框架;
    ~2. 算法和模型问题:模型如何训练、预测,以及如何达成更好的推荐效果?该部分则进一步细化为推荐系统中,集训练(Training)、评估(Evaluation)、部署(Deployment)、线上推断(Online Inference)为一体的模型框架。

  5. 技术架构图:
    基于上述两类问题,推荐系统的技术架构图如图所示:
    在这里插入图片描述

  6. 第一部分:数据部分
    ~1. 负责“用户”、“物品”、“场景”信息的收集与处理。根据数据量和实时性划(实时性由强到弱/海量数据处理能力由弱到强)分为三种数据处理方式,成熟的推荐系统会将三者取长补短。例如:Spark 离线数据处理,Flink 准实时数据处理等。
    ~2. 大数据计算平台通过对推荐系统日志,物品和用户的元数据等信息的处理,获得了推荐模型的训练数据(模型训练与评估)、特征数据(线上推断)、统计数据(监控系统)等。

  7. 第二部分:模型部分
    ~1. 模型的结构一般由“召回层”、“排序层”以及“补充策略与算法层”组成:
    召回层:一般由高效的召回规则、算法或简单的模型组成,这让推荐系统能快速从海量的候选集中召回用户可能感兴趣的物品。
    排序层:利用排序模型对初筛的候选集进行精排序。
    再排序层,返回给用户推荐列表之前,为兼顾结果的“多样性”、“流行度”、“新鲜度”等指标,结合一些补充的策略和算法对推荐列表进行一定的调整,最终形成用户可见的推荐列表。

    ~2. 模型的训练方法根据环境的不同,可以分为“离线训练”和“在线更新”两部分:
    离线训练:利用全量样本和特征,使模型逼近全局最优点;
    在线更新:准实时地“消化”新的数据样本,更快地反应新的数据变化趋势,满足模型实时性的需求。

    ~3. 推荐系统的模型部分还包括“离线评估”和“线上 A/B 测试”等多种评估模块,用来得出线下和线上评估指标,指导下一步的模型迭代优化。

  8. 革命性体现
    深度学习对于推荐系统的革命集中在模型部分,体现在3点:
    ~1. 深度学习中 Embedding 技术在召回层的应用;
    ~2. 不同结构的深度学习模型在排序层的应用;
    ~3. 增强学习在模型更新、工程模型一体化方向上的应用;

  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2021-07-07 00:00:15  更:2021-07-07 00:00:48 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年4日历 -2024/4/19 20:40:18-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码