R语言----逻辑回归各统计量解读
邏輯回歸是回歸模型,其中響應變量(因變量y)具有諸如True / False或0/1的分類值。 它實際上基于將其與預測變量(自變量x)相關的數學方程測量二元響應的概率,作為響應變量的值。
邏輯回歸的一般數學方程為 :
y = 1/(1+e^-(a+b1x1+b2x2+b3x3+…))
以下是所使用的參數的描述 :
- y是響應變量。
- x是預測變量。
- a和b是作為數字常數的系數。
glm()函數
邏輯回歸中glm()函數的基本語法是:
glm(formula,data,family)
以下是所使用的參數的描述:
- formula是表示變量之間的關系的符號。
- data是給出這些變量的值的數據集。
- family是R語言對象來指定模型的細節。 它的值是二項邏輯回歸。
舉個栗子:
內置數據集“mtcars”描述具有各種發動機規格的汽車的不同型號。
在“mtcars”數據集中,傳輸模式(自動或手動)由am列描述,它是一個二進制值(0或1)。 我們可以在列“am”和其他3列(hp,wt和cyl)之間創建邏輯回歸模型。
輸入:
# Select some columns form mtcars. input <- mtcars[,c("am","cyl","hp","wt")] print(head(input))輸出:
am cyl hp wt Mazda RX4 1 6 110 2.620 Mazda RX4 Wag 1 6 110 2.875 Datsun 710 1 4 93 2.320 Hornet 4 Drive 0 6 110 3.215 Hornet Sportabout 0 8 175 3.440 Valiant 0 6 105 3.460……… …………… ………… …………創建回歸模型:
我們使用glm()函數創建回歸模型,并得到其摘要進行分析。
輸入:
input <- mtcars[,c("am","cyl","hp","wt")]am.data = glm(formula = am ~ cyl + hp + wt, data = input, family = binomial)print(summary(am.data))輸出:
Call: glm(formula = am ~ cyl + hp + wt, family = binomial, data = input)Deviance Residuals: Min 1Q Median 3Q Max -2.17272 -0.14907 -0.01464 0.14116 1.27641 Coefficients:Estimate Std. Error z value Pr(>|z|) (Intercept) 19.70288 8.11637 2.428 0.0152 * cyl 0.48760 1.07162 0.455 0.6491 hp 0.03259 0.01886 1.728 0.0840 . wt -9.14947 4.15332 -2.203 0.0276 * --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1(Dispersion parameter for binomial family taken to be 1)Null deviance: 43.2297 on 31 degrees of freedom Residual deviance: 9.8415 on 28 degrees of freedom AIC: 17.841Number of Fisher Scoring iterations: 8關于glm()報錯的解答
Warning messages:
- glm.fit:算法沒有聚合
- glm.fit:擬合機率算出來是數值零或一
上述兩個報錯點可以參照:
https://www.cnblogs.com/runner-ljt/p/4574275.html
詳解summary
Deviance Residuals:偏差殘差統計量。
在理想情況下服從正態分布,普通最小二乘法在數學上保證產生均值為0的殘差。
- 在此例中,中位數的符號為負(-0.01464),表明向左偏移,中位數的大小表明偏斜的程度。
- 第一個四分位數(1Q)和第三個四分位數(3Q)為鐘形分布的幅度。在這種情況下,3Q有較大的幅度(0.14116+|-0.14907|)表明向右傾斜。
- 最大和最小殘差用來檢驗數據中產生較大殘差的離群值。
Coefficients:系數。
如果一個變量的系數為0,那么這個變量是沒有意義的,它對模型毫無貢獻。
這里的系數只是估計,不會真正為0,那么從統計的角度而言,真正的系數為0的可能性是多大?這就依賴于z統計量(z value)和p值(Pr(>|t|))。
-
(Intercept)的Estimate ---- 公式中的b
-
vyl、hp、wt的Estimate ----公式中的系數
-
Pr(>|z|)—p-value:P值。概率p值估計了系數不顯著的可能性,越小越好。如果p值很大,說明不顯著的可能性很高。一般情況下如果p值遠小于于顯著水平α=0.05(可更換顯著性水平的值)
-
Std.Error是回歸系數的標準誤差
-
Null deviance:無效偏差(零偏差); Residual deviance:剩余偏差 ;無效偏差和剩余偏差之間的差異越大越好
-
AIC:評價模型擬合的重要指標; AIC越低越好
結論:
在總結中,對于變量“cyl”和“hp”,最后一列中的p值(Pr(>|z|))大于0.05,我們認為它們對變量“am”的值有貢獻是無關緊要的。 只有重量(wt)影響該回歸模型中的“am”值。
總結
以上是生活随笔為你收集整理的R语言----逻辑回归各统计量解读的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: ol4通过ImageCanvas实现大量
- 下一篇: 李宏毅2020作业3---CNN