正規方程法是利用矩陣求解的

公式為θ=(X^TX)^-1X^Ty

Octave:pinv(x'*x)*x'*y

正規方程法不需要特征縮放

設計矩陣

有m個樣本(x^(1),y^(1)),.....,(x^(m),y^(m));n個特征

x^（i） 的維度是n+1，向量里是n+1個的特征向量，X是m個x⁽ⁱ⁾ 的轉置矩陣

對比一下正規方程法與梯度下降的優缺點

?

梯度下降	正規方程
優：當特征數量很多時 也能很快的擬合好	優：不需要學習率α
缺：需要學習率α 為了找到合適的α 需要運行很多次	缺：如果特征n的的數量很大 x的維度也會很大，需要很多 時間來計算(XTX）-1

?

當X^TX不可逆時，我們首先可以查看所有的特征，看是否有特征線性相關，如果有，二者刪齊一；然后看是否有太多的特征，可以選擇一些不影響的特征刪除

轉載于:https://www.cnblogs.com/fromzore/p/10027571.html

總結

以上是生活随笔為你收集整理的正规方程法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。