| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 人工智能 -> 淘宝逛逛,融合淘宝商品序列 - 逛逛场景内容序列的办法 -> 正文阅读 |
|
[人工智能]淘宝逛逛,融合淘宝商品序列 - 逛逛场景内容序列的办法 |
一、难点一 右侧的公式是从底往上看 两个mean-pooling很简单,假设形成64维的向量 Ec1 Ei1,相乘得到Ef1,也是64维向量,这里的vanilla-attention(推荐搜索的冷启动问题_1066196847的博客-CSDN博客) vanilla-attention的重点是,Query由decoder输出,也就相当于这里的Ef1,K V由encoder输入,从Ec2 Ei2公式中看都是C或者都是I,用C来举例,那么就都是content sequence的每个item,先和Ef1来计算attention-score再作用到自身(相乘)得到加权向量(多半也是64维向量) 最后Ec2 Ei2相乘,再和Ef1相加,得到输出 二、上面的架构有两个缺点 1:商品item序列、内容item序列 同权重进行融合 2:item序列中没有对商品赋予不同的权重 三、改进 1:先解决 二.2 问题 其中 T是Contextual embedding由如下特征的embedding组合而成,包括新用户标识特征、用户场景活跃统计特征、实时Top5商品类目偏好和实时Top5内容类目偏好特征。总结就是 用户兴趣融合的向量,用这个向量作为vanilla-attention的query再合适不过了,计算和每个item的attention-score,能够筛选出用户的兴趣来。 原始文章中有几个公式感觉写的有问题 首先从改进的图中看,Ei2 Ec2没变,还是两个vanilla-attention的结果 上面公式中Gate(x)讲的是个公式,g=Gate()这个有问题,应该是g=Gate(Concat(Ei2,T,Ec2))得到一个“权重”,然后和 1-g 就是分别代表?Ei2?Ec2 的权重,所以Ef2也错误,应该是 Ef2=g*Ei2 + (1-g)*Ec2,也就是在解决上面的 二.1 问题。最后再是concat得到F ? |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/26 20:48:36- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |