回歸一詞，指的是我們根據(jù)已有的數(shù)據(jù)，預(yù)測(cè)出一個(gè)準(zhǔn)確的輸出值。

假設(shè)函數(shù)

一元線性回歸的假設(shè)函數(shù)模型：

$$h_{\theta }(x)={\theta }_0+{\theta }_1?x$$

• $x$：表示輸入變量，表示輸入的特征。

• $y$：表示目標(biāo)變量，也就是預(yù)測(cè)結(jié)果。

• $(x,y)$：表示一個(gè)訓(xùn)練樣本，用 $x^{(i)}$ 與 $y^{(i)}$ 來表示數(shù)據(jù)集中的第 $i$ 個(gè)訓(xùn)練樣本。

• $h_{\theta }(x)$：表示假設(shè)函數(shù)（hypothesis），$h$ 根據(jù)輸入的 $x$ 值來得出 $y$ 值，是一個(gè)從 $x$ 到 $y$ 的函數(shù)映射。

• ${\theta }_0$ 和 ${\theta }_1$：這些 ${\theta }_i$ 稱為模型參數(shù)。選擇不同的參數(shù)${\theta }_0$ 和 ${\theta }_1$，會(huì)得到不同的假設(shè)函數(shù)。

在線性回歸要做的就是求取最優(yōu)的 ${\theta }_0$ 和 ${\theta }_1$，來讓 $h_{\theta }(x)$ 表示的直線盡量地與這些數(shù)據(jù)集中的點(diǎn)很好的擬合。也許就像這里的這條線一樣：

代價(jià)函數(shù)

線性回歸的目標(biāo)是，選擇最優(yōu)的 ${\theta }_0$ 和 ${\theta }_1$，來讓 $h_{\theta }(x^{(i)})$ 的值盡可能接近 $y^{(i)}$ ，達(dá)到減少函數(shù)損失（誤差）的目的：

$$\underset{{\theta }_0{\theta }_1}{\mathrm{minimze}}(h_{\theta }(x)?y{)}^2$$

由于樣本數(shù)據(jù)集的總數(shù)是 $m$ ，所以誤差總和的平均為：

$$\underset{{\theta }_0{\theta }_1}{\mathrm{minimze}}\frac{1}{2m}\sum _{i=1}^m(h_{\theta }(x^{(i)})?y^{(i)}{)}^2$$

表達(dá)式：

$$\underset{{\theta }_0{\theta }_1}{\mathrm{minimze}}$$

意味著我們要找到某個(gè) ${\theta }_0$ 和 ${\theta }_1$的值來使這個(gè)表達(dá)式的值最小。

即，一元線性回歸的代價(jià)函數(shù)(Cost Function):

$$J({\theta }_0,{\theta }_1)=\frac{1}{2m}\sum _{i=1}^m(h_{\theta }(x^{(i)})?y^{(i)}{)}^2$$

總結(jié)

以上是生活随笔為你收集整理的线性回归 linear regression的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。