| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 人工智能 -> 【学习3】一些NLP评价指标及其计算 -> 正文阅读 |
|
[人工智能]【学习3】一些NLP评价指标及其计算 |
参考 1、https://zhuanlan.zhihu.com/p/223048748 2、https://www.cnblogs.com/xinbaby829/p/6955687.html 3、https://zhuanlan.zhihu.com/p/37639563 1、bleu BLEU (全称为Bilingual Evaluation Understudy)的意思是双语评估替补。尽管最开始作为翻译的指标而被发明,但bleu也可以用于image caption的评估。 假如给定标准译文为reference,预测的句子是candidate,句子长度为n,candidate中有m个单词出现在reference,m/n就是bleu的1-gram的计算公式。 根据n-gram可以把bleu划分为多种评价指标,比如BLEU-1、BLEU-2、BLEU-3、BLEU-4......其中n-gram指的是连续的单词个数为n。 BLEU-1衡量的是单词级别的准确性,更高阶的bleu可以衡量句子的流畅性。 计算公式如下 pytorch中,利用包nltk可以计算bleu值
2、meteor METEOR可以计算为对应最佳候选译文和参考译文之间的准确率和召回率的调和平均,其结果和人工判断的结果有较高相关性。 METEOR还可以实现同义词匹配的功能。(需要先检查是否安装了wordnet同义词词库,没安装可以用 nltk.download('wordnet') 安装) pytorch中,利用包nltk计算meteor值
3、CIDEr(Consensus-based Image Description Evaluation) cider把每个句子都看作“文档”,将其表示成 tf-idf 向量的形式,然后计算参考caption与模型生成的caption的余弦相似度,作为打分。 这么计算可以参考一下这个https://github.com/msanders/cider 4、rouge 自动文本摘要系统评价的主流方法。受BLEU的启发,不同之处在于,采用召回率来作为指标。 rouge-n计算生成的摘要与标注摘要的n-gram召回率,通常用ROUGE-1/2来评估。 rouge-l计算匹配两个文本单元之间的最长公共序列(LCS,Longest Common Sub sequence)。 pytorch中利用包rouge计算这个指标
|
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/17 20:24:14- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |