IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> ABSA论文泛读05:CAN: Constrained Attention Networks for Multi-Aspect Sentiment Analysis -> 正文阅读

[人工智能]ABSA论文泛读05:CAN: Constrained Attention Networks for Multi-Aspect Sentiment Analysis

提示1:原文链接


前言

??本篇博客主要是对《CAN: Constrained Attention Networks for Multi-Aspect Sentiment Analysis》进行了泛读,并对其进行了简单地记录,以帮助大家快速了解此篇论文的要点。


一、论文信息

  • 论文名:《CAN: Constrained Attention Networks for Multi-Aspect Sentiment Analysis》
  • 作者:Mengting Hu, Shiwan Zhao, Li Zhang, Keke Cai, Zhong Su, Renhong Cheng, Xiaowei Shen
  • 领域:Multi-Aspect SA
  • 关键词:Constrained Attention Networks、Multi-Aspect Sentiment Analysis
  • 发表年份:2019
  • 会议/期刊名:EMNLP

二、笔记要点

2.1 目前存在的问题

??注意力模型处理方面情感分析问题时会引入噪声,即会关注到其他方面的情感词。

2.2 现有方法

??1. 基于注意力的LSTM模型
??2. 交互式注意力网络
??3. 用于方面级别情感分类的分层神经网络模型
??4. 基于分割注意的 LSTM 模型进行方面级别的情感分类

2.3 本文方法和创新点

??方法:
???? ① 提出了注意力约束模型(Constrained Attention Networks,CAN);
???? ② 采用多任务学习方法,将CAN扩展到多任务设置;

??创新点
???? ① 引入sparse regularization(稀疏正则化),它倾向于使每个方面的注意力权重只集中在几个词上。
???? ② 引入orthogonal regularization(正交规范化)
???? ③ 引入ACD作为辅助任务来帮助ALSC任务

2.4 模型结构

??注意1:ALSC 和 ACD 任务使用相同的注意力机制,但它们不共享参数。
??注意2:Regularization Layer 仅在训练阶段可用,在该阶段已知用于计算正则化损失的真实情况,然后影响反向传播中的参数更新。而在测试/推理阶段,真正的方面是未知的,并且没有计算正则化损失,因此从架构中省略了这一层。
CAN模型图

2.5 实验结果

??Single-task Settings
????【Table2所示】:实验结果表明,引入注意力正则化后我们的方法优于其他方法。
实验结果??Multi-task Settings:
????【Table3显示了多任务设置中 ALSC 任务的结果】:首先观察到多任务设置的整体结果优于单任务设置的结果,这通过引入辅助 ACD 任务来帮助 ALSC 任务证明了多任务学习的有效性。其次,在几乎所有情况下,将注意力正则化应用于这两个任务比仅应用于 ALSC 任务获得更多的性能提升,这表明我们的注意力正则化方法可以扩展到涉及方面级别注意力权重的不同任务,并且在多任务中运行良好。
????【Table4 显示了多任务设置中 ACD 任务的结果】:我们提出的正则化项也可以提高 ACD 的性能,正则化在几乎所有指标上都达到了最佳性能。
实验结果

2.6 总结和展望

??1. 本文提出了用于多方面情感分析的约束注意网络,并在两个公共数据集上进行了实验,证明了方法的有效性;
??2. 实验结果表明,我们的方法优于最先进的方法。


总结

??以上就是本篇博客的全部内容了,希望对你有所帮助。

  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2021-09-01 11:55:38  更:2021-09-01 11:55:46 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/27 16:26:38-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码