目錄

文章目錄

• 目錄
• 前言
• 緒論
• 作業(yè)打卡
• • L1和L2范式
  • ROC曲線
  • • 一 roc曲線
    • 二 如何畫roc曲線
    • 三 為什么使用Roc和Auc評價分類器
  • 補充 混淆矩陣
• 參考

前言

為了增加實戰(zhàn)經(jīng)驗，選擇了開通深度之眼vip，先試試水，效果好的話，推薦給大家。

緒論

統(tǒng)計學(xué)習(xí)方法主要是講李航博士統(tǒng)計學(xué)習(xí)方法那本書，一開始主要講解了一些基本概念。

作業(yè)打卡

L1和L2范式

l1范數(shù)的數(shù)學(xué)定義是所有數(shù)絕對值之和。
在坐標平面上它是個正方形。
l2范數(shù)的數(shù)學(xué)定義是所有數(shù)的平方和。
在坐標平面上它是個圓形。
l1適合特征少而明銳的情況，l2適合特征多而平均的情況。

ROC曲線

受試者工作特征曲線 （receiver operating characteristic curve，簡稱ROC曲線），又稱為感受性曲線（sensitivity curve）。得此名的原因在于曲線上各點反映著相同的感受性，它們都是對同一信號刺激的反應(yīng)，只不過是在兩種不同的判定標準下所得的結(jié)果而已。受試者工作特征曲線就是以假陽性概率（False positive rate）為橫軸，真陽性（True positive rate）為縱軸所組成的坐標圖，和受試者在特定刺激條件下由于采用不同的判斷標準得出的不同結(jié)果畫出的曲線。
ROC曲線是根據(jù)一系列不同的二分類方式（分界值或決定閾），以真陽性率（靈敏度）為縱坐標，假陽性率（1-特異度）為橫坐標繪制的曲線。傳統(tǒng)的診斷試驗評價方法有一個共同的特點，必須將試驗結(jié)果分為兩類，再進行統(tǒng)計分析。ROC曲線的評價方法與傳統(tǒng)的評價方法不同，無須此限制，而是根據(jù)實際情況，允許有中間狀態(tài)，可以把試驗結(jié)果劃分為多個有序分類，如正常、大致正常、可疑、大致異常和異常五個等級再進行統(tǒng)計分析。因此，ROC曲線評價方法適用的范圍更為廣泛。

1.ROC曲線能很容易地查出任意界限值時的對疾病的識別能力。
2.選擇最佳的診斷界限值。ROC曲線越靠近左上角,試驗的準確性就越高。最靠近左上角的ROC曲線的點是錯誤最少的最好閾值，其假陽性和假陰性的總數(shù)最少。
3.兩種或兩種以上不同診斷試驗對疾病識別能力的比較。在對同一種疾病的兩種或兩種以上診斷方法進行比較時，可將各試驗的ROC曲線繪制到同一坐標中，以直觀地鑒別優(yōu)劣，靠近左上角的ROC曲線所代表的受試者工作最準確。亦可通過分別計算各個試驗的ROC曲線下的面積(AUC)進行比較，哪一種試驗的 AUC最大，則哪一種試驗的診斷價值最佳。

一 roc曲線

1、roc曲線：接收者操作特征(receiveroperating characteristic),roc曲線上每個點反映著對同一信號刺激的感受性。
橫軸：負正類率(false postive rate FPR)特異度，劃分實例中所有負例占所有負例的比例；(1-Specificity)
縱軸：真正類率(true postive rate TPR)靈敏度，Sensitivity(正類覆蓋率)

2針對一個二分類問題，將實例分成正類(postive)或者負類(negative)。但是實際中分類時，會出現(xiàn)四種情況.

(1)若一個實例是正類，并且被預(yù)測為正類，即為真正類(True Postive TP)
(2)若一個實例是正類，但是被預(yù)測成為負類，即為假負類(False Negative FN)
(3)若一個實例是負類，但是被預(yù)測成為正類，即為假正類(False Postive FP)
(4)若一個實例是負類，但是被預(yù)測成為負類，即為真負類(True Negative TN)
TP:正確的肯定數(shù)目
FN:漏報，沒有找到正確匹配的數(shù)目
FP:誤報，沒有的匹配不正確
TN:正確拒絕的非匹配數(shù)目

列聯(lián)表如下，1代表正類，0代表負類：

由上表可得出橫，縱軸的計算公式：

(1)真正類率(True Postive Rate)TPR: TP/(TP+FN),代表分類器預(yù)測的正類中實際正實例占所有正實例的比例。Sensitivity

(2)負正類率(False Postive Rate)FPR: FP/(FP+TN)，代表分類器預(yù)測的正類中實際負實例占所有負實例的比例。1-Specificity

(3)真負類率(True Negative Rate)TNR: TN/(FP+TN),代表分類器預(yù)測的負類中實際負實例占所有負實例的比例，TNR=1-FPR。Specificity

假設(shè)采用邏輯回歸分類器，其給出針對每個實例為正類的概率，那么通過設(shè)定一個閾值如0.6，概率大于等于0.6的為正類，小于0.6的為負類。對應(yīng)的就可以算出一組(FPR,TPR),在平面中得到對應(yīng)坐標點。隨著閾值的逐漸減小，越來越多的實例被劃分為正類，但是這些正類中同樣也摻雜著真正的負實例，即TPR和FPR會同時增大。閾值最大時，對應(yīng)坐標點為(0,0),閾值最小時，對應(yīng)坐標點(1,1)。

如下面這幅圖，(a)圖中實線為ROC曲線，線上每個點對應(yīng)一個閾值。
橫軸FPR:1-TNR,1-Specificity，FPR越大，預(yù)測正類中實際負類越多。

縱軸TPR：Sensitivity(正類覆蓋率),TPR越大，預(yù)測正類中實際正類越多。

理想目標：TPR=1，FPR=0,即圖中(0,1)點，故ROC曲線越靠攏(0,1)點，越偏離45度對角線越好，Sensitivity、Specificity越大效果越好。

二 如何畫roc曲線

假設(shè)已經(jīng)得出一系列樣本被劃分為正類的概率，然后按照大小排序，下圖是一個示例，圖中共有20個測試樣本，“Class”一欄表示每個測試樣本真正的標簽（p表示正樣本，n表示負樣本），“Score”表示每個測試樣本屬于正樣本的概率。

接下來，我們從高到低，依次將“Score”值作為閾值threshold，當(dāng)測試樣本屬于正樣本的概率大于或等于這個threshold時，我們認為它為正樣本，否則為負樣本。舉例來說，對于圖中的第4個樣本，其“Score”值為0.6，那么樣本1，2，3，4都被認為是正樣本，因為它們的“Score”值都大于等于0.6，而其他樣本則都認為是負樣本。每次選取一個不同的threshold，我們就可以得到一組FPR和TPR，即ROC曲線上的一點。這樣一來，我們一共得到了20組FPR和TPR的值，將它們畫在ROC曲線的結(jié)果如下圖：

AUC(Area under Curve)：Roc曲線下的面積，介于0.1和1之間。Auc作為數(shù)值可以直觀的評價分類器的好壞，值越大越好。

首先AUC值是一個概率值，當(dāng)你隨機挑選一個正樣本以及負樣本，當(dāng)前的分類算法根據(jù)計算得到的Score值將這個正樣本排在負樣本前面的概率就是AUC值，AUC值越大，當(dāng)前分類算法越有可能將正樣本排在負樣本前面，從而能夠更好地分類。

三 為什么使用Roc和Auc評價分類器

既然已經(jīng)這么多標準，為什么還要使用ROC和AUC呢？因為ROC曲線有個很好的特性：當(dāng)測試集中的正負樣本的分布變換的時候，ROC曲線能夠保持不變。在實際的數(shù)據(jù)集中經(jīng)常會出現(xiàn)樣本類不平衡，即正負樣本比例差距較大，而且測試數(shù)據(jù)中的正負樣本也可能隨著時間變化。下圖是ROC曲線和Presision-Recall曲線的對比：
在上圖中，(a)和?為Roc曲線，(b)和(d)為Precision-Recall曲線。

(a)和(b)展示的是分類其在原始測試集(正負樣本分布平衡)的結(jié)果，?(d)是將測試集中負樣本的數(shù)量增加到原來的10倍后，分類器的結(jié)果，可以明顯的看出，ROC曲線基本保持原貌，而Precision-Recall曲線變化較大。

補充 混淆矩陣

混淆矩陣是除了ROC曲線和AUC之外的另一個判斷分類好壞程度的方法。以下有幾個概念需要先說明：
TP(True Positive): 真實為1，預(yù)測也為1
FN(False Negative): 真實為1，預(yù)測為0
FP(False Positive): 真實為0，預(yù)測為1
TN(True Negative): 真實為0，預(yù)測也為0
:分類模型總體判斷的準確率(包括了所有class的總體準確率)

: 預(yù)測為1的準確率

: 真實為1的準確率

: 真實為0的準確率

: 預(yù)測為0的準確率

: 對于某個分類，綜合了Precision和Recall的一個判斷指標，F1-Score的值是從0到1的，1是最好，0是最差

: 另外一個綜合Precision和Recall的標準，F1-Score的變形

因此我們知道，計算Specificity，Recall，Precision等只是計算某一分類的特性，而Accuracy和F1-Score這些是判斷分類模型總體的標準。我們可以根據(jù)實際需要，得出不同的效果。

作者：remychan
鏈接：https://www.jianshu.com/p/0fc8a0b784f1
來源：簡書
簡書著作權(quán)歸作者所有，任何形式的轉(zhuǎn)載都請聯(lián)系作者獲得授權(quán)并注明出處。

參考

百度百科
受試者特征工作曲線

與50位技術(shù)專家面對面20年技術(shù)見證，附贈技術(shù)全景圖

總結(jié)

以上是生活随笔為你收集整理的深度之眼课程打卡-统计学习方法01的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。