簡單線性回歸：目標：找到a和b，使得${\sum }_{i=1}^m(y_{train}^{(i)}?a{x}_{train}^{(i)}?b{)}^2$盡可能小

線性回歸算法的評測：

衡量標準：${\sum }_{i=1}^m(y_{test}^{(i)}?{\hat{y}}_{test}^{(i)}{)}^2$,問題：和m相關？

1）均方誤差MSE（Mean Squared Error）問題：量綱？
$$\frac{1}{m}\sum _{i=1}^m(y_{test}^{(i)}?{\hat{y}}_{test}^{(i)}{)}^2$$
2）均方根誤差RMSE（Root Mean Squared Error）
$$\sqrt{\frac{1}{m}\sum _{i=1}^m(y_{test}^{(i)}?{\hat{y}}_{test}^{(i)}{)}^2}=\sqrt{MS{E}_{test}}$$
3）平方絕對誤差MAE（Mean Absolute Error）
$$\frac{1}{m}\sum _{i=1}^m\mid y_{test}^{(i)}?{\hat{y}}_{test}^{(i)}\mid$$
問題：分類的準確度：1最好，0最差
4）R Squared
$$R^2=1?\frac{S{S}_{residual}}{S{S}_{total}}$$
Residual Sum of Squares;Total Sum of Squares
$$R^2=1?\frac{{\sum }_i({\hat{y}}^{(i)}?y^{(i)}{)}^2}{{\sum }_i(\bar{y}?y^{(i)}{)}^2}$$
分子：使用我們的模型預測產生的錯誤；
分母：使用$y=\bar{y}預測產生的錯誤$
Baseline Model

1.$R^2\le 1$
2.$R^2$越大越好。當我們的預測模型不犯任何錯誤時，$R^2$得到最大值1；
3.當我們的模型等于基準模型時，$R^2$為0；
4.如果$R^2<0$，說明我們學習到的模型還不如基準模型。此事，很有可能我們的數據不存在任何線性關系。
$$R^2=1?\frac{{\sum }_i({\hat{y}}^{(i)}?y^{(i)}{)}^2}{{\sum }_i(\bar{y}?y^{(i)}{)}^2}$$
$$=1?\frac{({\sum }_i^m({\hat{y}}^{(i)}?y^{(i)}{)}^2)/m}{({\sum }_i^m(\bar{y}?y^{(i)}{)}^2)/m}$$
$$=1?\frac{MSE(\hat{y},y)}{Var(y)}$$

總結

以上是生活随笔為你收集整理的第3章 衡量线性回归的指标：MSE，RMSE，MAE的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。