注：术语来源请参照《人工智能论文术语集》
术语内容
- cascading errors
- 级联损失 ～ 任何级联模型的设计方案都有可能因为两个模型没有统一的优化目标而产生损失。
- attention pattern
- 注意力计算模式 ～ longformer中的重要概念，指attention快速计算的方法。
- contemporaneous works
- 同时期的工作 ～ 指与当前论文同时期的一些论文情况。
- To accommodate this
- 为了适应这个 ～ 是指适应模型的某些特殊输入需求。
- truncates the document
- 截断文档 ～ 最粗暴的处理长文本的方法。
- Sliding window attention
- 滑动窗口注意力 ～ 一种减少attention计算的方式。
- Dilated sliding window
- 扩张滑动窗口 ～ 比滑动窗口的范围更大，可以在Longformer中图例中查看他们的区别。
- Schematic
- 示意图 ～ 一般在论文的图片介绍里出现。
- coreference resolution
- 指代消解 ～ 著名的NLP任务类型。
- a task motivated global attention
- 一项能够利用全局注意力的任务 ～ 是指Longformer中的局部窗口注意力能够起到全局的作用。
被虐的还不过瘾？快关注我，查看更多粉丝可见内容！！！