tradeoff

【机器学习基础】准确率（Accu...

转载自：【机器学习基础】准确率(Accuracy),精确率(Precision),

召回率(Recall)和F1-Measure

yuCode15Comments

机器学习(ML),自然语言处理(NLP),信息检索(IR)等领域,评估

(Evaluation)是一个必要的工作,而其评价指标往往有如下几点:准确率

(Accuracy),精确率(Precision),召回率(Recall)和F1-Measure。(注：

相对来说，IR的groundtruth很多时候是一个OrderedList,而不是

一个Bool类型的UnorderedCollection，在都找到的情况下，排在

第三名还是第四名损失并不是很大，而排在第一名和第一百名，虽然

都是“找到了”，但是意义是不一样的，因此更多可能适用

于MAP之类评估指标。)

本文将简单介绍其中几个概念。中文中这几个评价指标翻译各有

不同，所以一般情况下推荐使用英文。

现在我先假定一个具体场景作为例子。

假如某个班级有男生80人,女生20人,共

计100人.目标是找出所有女生.

现在某人挑选出50个人,其中20人是女

生,另外还错误的把30个男生也当作女生挑选

出来了.

作为评估者的你需要来评估(evaluation)

下他的工作

首先我们可以计算准确率(accuracy),其定义是:对于给定的测试数

据集，分类器正确分类的样本数与总样本数之比。也就是损失函数是

0-1损失时测试数据集上的准确率[1].

这样说听起来有点抽象，简单说就是，前面的场景中，实际情况

是那个班级有男的和女的两类，某人(也就是定义中所说的分类器)他又

把班级中的人分为男女两类。accuracy需要得到的是此君分正确的人

占总人数的比例。很容易，我们可以得到:他把其中70(20女+50男)人

判定正确了,而总人数是100人，所以它的accuracy就是70%(70/

100).

由准确率，我们的确可以在一些场合，从某种意义上得到一个分

类器是否有效，但它并不总是能有效的评价一个分类器的工作。举个

例子,google抓取了argcv100个页面，而它索引中共有10,000,000

个页面,随机抽一个页面，分类下,这是不是argcv的页面呢?如果以

accuracy来判断我的工作，那我会把所有的页面都判断为"不是argcv

的页面",因为我这样效率非常高(returnfal,一句话),而accuracy已经

到了99.999%(9,999,900/10,000,000),完爆其它很多分类器辛辛苦苦

算的值,而我这个算法显然不是需求期待的,那怎么解决呢?这就是

precision,recall和f1-measure出场的时间了.

在说precision,recall和f1-measure之前,我们需要先需要定义

TP,FN,FP,TN四种分类情况.

按照前面例子,我们需要从一个班级中的人中寻找所有女生,如果把

这个任务当成一个分类器的话,那么女生就是我们需要的,而男生不是,所

以我们称女生为"正类",而男生为"负类".

相关(Relevant),正类无关(NonRelevant),负类

被检索到

(Retrieved)

truepositives(TP正类判定为

正类,例子中就是正确的判定"这

位是女生")

falpositives(FP负类判定为

正类,"存伪",例子中就是分明是

男生却判断为女生,当下伪娘横

行,这个错常有人犯)

未被检索到

(Not

Retrieved)

falnegatives(FN正类判定

为负类,"去真",例子中就是,分明

是女生,这哥们却判断为男生--

梁山伯同学犯的错就是这个)

truenegatives(TN负类判定为

负类,也就是一个男生被判断为

男生,像我这样的纯爷们一准儿

就会在此处)

通过这张表,我们可以很容易得到这几个值:

TP=20

FP=30

FN=0

TN=50

精确率(precision)的公式是,它计算的是所有"正确被检索的

item(TP)"占所有"实际被检索到的(TP+FP)"的比例.

在例子中就是希望知道此君得到的所有人中,正确的人(也就是女生)

占有的比例.所以其precision也就是40%(20女生/(20女生+30误判

为女生的男生)).

召回率(recall)的公式是,它计算的是所有"正确被检索的item(TP)"

占所有"应该检索到的item(TP+FN)"的比例。

在例子中就是希望知道此君得到的女生占本班中所有女生的比例,

所以其recall也就是100%(20女生/(20女生+0误判为男生的女生))

F1值就是精确值和召回率的调和均值,也就是

调整下也就是

例子中F1-measure也就是约为57.143%().

需要说明的是,有人[2]列了这样个公式

将F-measure一般化.

F1-measure认为精确率和召回率的权重是一样的,但有些场景下,

我们可能认为精确率会更加重要,调整参数a,使用Fa-measure可以帮

助我们更好的evaluate结果.

话虽然很多,其实实现非常轻松,点击此处可以看到我的一个简单的

实现.

References

[1]李航.统计学习方法[M].北京:清华大学出版社,2012.

[2]准确率（Precision）、召回率（Recall）以及综合评价指标

（F1-Measure）

======================================

============

自己理解+我老师的说法就是，准确率就是找得对，召回率就是

找得全。

大概就是你问问一个模型，这堆东西是不是某个类的时候，准确

率就是它说是，这东西就确实是的概率吧，召回率就是，它说是，但

它漏说了（1-召回率）这么多。

======================================

============

在信息检索、分类体系中，有一系列的指标，搞清楚这些指标对

于评价检索和分类性能非常重要，因此最近根据网友的博客做了一个

汇总。

准确率、召回率、F1

信息检索、分类、识别、翻译等领域两个最基本指标是召回率

(RecallRate)和准确率(PrecisionRate)，召回率也叫查全率，准确率

也叫查准率，概念公式:

召回率(Recall)=系统检索到的相关

文件/系统所有相关的文件总数

准确率(Precision)=系统检索到的相关

文件/系统所有检索到的文件总数

图示表示如下：

A：（搜到的也想要的）

B：检索到的，但是不相关的（搜到的但没用的）

C：未检索到的，但却是相关的（没搜到，然而实际上想要

的）

D：未检索到的，也不相关的（没搜到也没用的）

注意：准确率和召回率是互相影响的，理想情况下肯定是做到两

者都高，但是一般情况下准确率高、召回率就低，召回率低、准确率

高，当然如果两者都低，那是什么地方出问题了。一般情况，用不同

的阀值，统计出一组不同阀值下的精确率和召回率，如下图：

如果是做搜索，那就是保证召回的情况下提升准确率；如果做疾

病监测、反垃圾，则是保准确率的条件下，提升召回。

所以，在两者都要求高的情况下，可以用F1来衡量。

1.F1=*P*R/(P+R)

公式基本上就是这样，但是如何算图1中的A、B、C、D呢？这

需要人工标注，人工标注数据需要较多时间且枯燥，如果仅仅是做实

验可以用用现成的语料。当然，还有一个办法，找个一个比较成熟的

算法作为基准，用该算法的结果作为样本来进行比照，这个方法也有

点问题，如果有现成的很好的算法，就不用再研究了。

AP和mAP(meanAveragePrecision)

mAP是为解决P，R，F-measure的单点值局限性的。为了得到

一个能够反映全局性能的指标，可以看考察下图，其中两条曲线(方块

点与圆点)分布对应了两个检索系统的准确率-召回率曲线

可以看出，虽然两个系统的性能曲线有所交叠但是以圆点标示的

系统的性能在绝大多数情况下要远好于用方块标示的系统。

从中我们可以发现一点，如果一个系统的性能较好，其曲线应当

尽可能的向上突出。

更加具体的，曲线与坐标轴之间的面积应当越大。

最理想的系统，其包含的面积应当是1，而所有系统的包含的面

积都应当大于0。这就是用以评价信息检索系统的最常用性能指标，平

均准确率mAP其规范的定义如下:(其中P，R分别为准确率与召回率)

ROC和AUC

ROC和AUC是评价分类器的指标，上面第一个图的ABCD仍然

使用，只是需要稍微变换。

回到ROC上来，ROC的全名叫做ReceiverOperating

Characteristic。

ROC关注两个指标

TruePositiveRate(TPR)=TP/[TP+FN]，TPR代表能将正

例分对的概率

FalPositiveRate(FPR)=FP/[FP+TN]，FPR代表将负例

错分为正例的概率

在ROC空间中，每个点的横坐标是FPR，纵坐标是TPR，这也就

描绘了分类器在TP（真正的正例）和FP（错误的正例）间的trade-

off。ROC的主要分析工具是一个画在ROC空间的曲线——ROC

curve。我们知道，对于二值分类问题，实例的值往往是连续值，我们

通过设定一个阈值，将实例分类到正类或者负类（比如大于阈值划分

为正类）。因此我们可以变化阈值，根据不同的阈值进行分类，根据

分类结果计算得到ROC空间中相应的点，连接这些点就形成ROC

curve。ROCcurve经过（0,0）（1,1），实际上(0,0)和(1,1)连线形

成的ROCcurve实际上代表的是一个随机分类器。一般情况下，这个

曲线都应该处于(0,0)和(1,1)连线的上方。如图所示。

用ROCcurve来表示分类器的performance很直观好用。可是，

人们总是希望能有一个数值来标志分类器的好坏。

于是AreaUnderrocCurve(AUC)就出现了。顾名思义，AUC的

值就是处于ROCcurve下方的那部分面积的大小。通常，AUC的值介

于0.5到1.0之间，较大的AUC代表了较好的Performance。

AUC计算工具：

P/R和ROC是两个不同的评价指标和计算方式，一般情况下，检

索用前者，分类、识别等用后者。

参考链接：

/view/ef91f011cc7931b765ce15ec.h

tml

：Recall，又称“查全率”——还是查全率好记，也更能体现其

实质意义。

准确率

“召回率”与“准确率”虽然没有必然的关系（从上面公式中可

以看到），在实际应用中，是相互制约的。要根据实际需求，找到一

个平衡点。

当我们问检索系统某一件事的所有细节时（输入检索query查询

词），Recall指：检索系统能“回忆”起那些事的多少细节，通俗来

讲就是“回忆的能力”。“能回忆起来的细节数”除以“系统知道这

件事的所有细节”，就是“记忆率”，也就是recall——召回率。简

单的，也可以理解为查全率。

________________________________________________________________

在人工智能中，混淆矩阵（confusionmatrix）是可视化工具，

特别用于监督学习，在无监督学习一般叫做匹配矩阵。

如有150个样本数据，这些数据分成3类，每类50个。分类结束

后得到的混淆矩阵为：

预测

类1类2类3

实际

类14352

类22453

类30149

每一行之和为50，表示50个样本，

第一行说明类1的50个样本有43个分类正确，5个错分为类2，

2个错分为类3