你好,游客 登录
背景:
阅读新闻

使用Python画ROC曲线以及AUC值

[日期:2016-09-19] 来源:Kubi Code'Blog  作者: [字体: ]

AUC介绍

AUC (Area Under Curve)是机器学习二分类模型中非常常用的评估指标,相比于 F1-Score 对项目的不平衡有更大的容忍性,目前常见的机器学习库中(比如 scikit-learn)一般也都是集成该指标的计算,其计算原理可以参考这个 ROC和AUC介绍以及如何计算AUC ,但是有时候模型是单独的或者自己编写的,此时想要评估训练模型的好坏就得自己搞一个 AUC 计算模块,本文在查询资料时发现 libsvm-tools 1 有一个非常通俗易懂的 auc 计算,因此抠出来用作日后之用。

AUC计算

AUC 的计算分为下面三个步骤:

  1. 计算数据的准备,如果模型训练时只有训练集的话一般使用交叉验证的方式来计算,如果有评估集( evaluate )一般就可以直接计算了,数据的格式一般就是需要预测得分以及其目标类别(注意是目标类别,不是预测得到的类别)
  2. 根据阈值划分得到横(X: False Positive Rate )以及纵(Y: True Positive Rate )点
  3. 将坐标点连成曲线之后计算其曲线下面积,就是 AUC 的值

直接上python代码

#! -*- coding=utf-8 -*-
import pylab as pl
from math import log,exp,sqrt


evaluate_result="you file path"
db = []  #[score,nonclk,clk]
pos, neg = 0, 0 
with open(evaluate_result,'r') as fs:
for line in fs:
nonclk,clk,score = line.strip().split('\t')
nonclk = int(nonclk)
clk = int(clk)
score = float(score)
db.append([score,nonclk,clk])
pos += clk
neg += nonclk



db = sorted(db, key=lambda x:x[0], reverse=True)

#计算ROC坐标点
xy_arr = []
tp, fp = 0., 0.			
for i in range(len(db)):
tp += db[i][2]
fp += db[i][1]
xy_arr.append([fp/neg,tp/pos])

#计算曲线下面积
auc = 0.			
prev_x = 0
for x,y in xy_arr:
if x != prev_x:
auc += (x - prev_x) * y
prev_x = x

print "the auc is %s."%auc

x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc))
pl.xlabel("False Positive Rate")
pl.ylabel("True Positive Rate")
pl.plot(x, y)# use pylab to plot x and y
pl.show()# show the plot on the screen

输入的数据集可以参考svm预测结果

其格式为:

nonclk \t clk \t score

其中:

  1. nonclick :未点击的数据,可以看做负样本的数量
  2. clk :点击的数量,可以看做正样本的数量
  3. score :预测的分数,以该分数为group进行正负样本的预统计可以减少 AUC 的计算量

运行的结果为:

如果本机没安装 pylab 可以直接注释依赖以及画图部分

注意

上面贴的代码:

  1. 只能计算二分类的结果(至于二分类的标签随便处理)
  2. 上面代码中每个 score 都做了一次阈值,其实这样效率是相当低的,可以对样本进行采样或者在计算横轴坐标时进行等分计算

参考

本作品采用 [知识共享署名-非商业性使用-相同方式共享 2.5] 中国大陆许可协议进行许可,我的博客欢迎复制共享,但在同时,希望保留我的署名权kubiCode,并且,不得用于商业用途。如您有任何疑问或者授权方面的协商,请给我留言。

收藏 推荐 打印 | 录入: | 阅读:
相关新闻       Python 
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款