1 分類問題

?

?2 感知器概述

?感知機的思想是錯誤驅(qū)動。其模型是

其中sign是符號函數(shù)：

?由于y∈{-1,1}，所以對于誤分類的數(shù)據(jù)來說，滿足以下關(guān)系

（因為理論上和yi，如果分類正確的話，應(yīng)該是同正負(fù)，所以誤分類的數(shù)據(jù)，二者相乘就應(yīng)該小于零）

?損失函數(shù)的一個自然選擇是誤分類點的個數(shù)，即

但是這樣的損失函數(shù)是不可導(dǎo)的，不易優(yōu)化。因此采用另一種損失函數(shù)，即誤分類點到超平面的總距離。

?我們復(fù)習(xí)一下空間中一點x0到超平面之間的距離：

?

?:對于直線wTx+b,它的法向量為w

那么向量x到直線wTx+b的距離就是向量x在法向量w上的投影，即 ||x||cosθ

?所以距離為

?

這里的M表示 被錯誤分類的樣本組成的集合

?3 感知機的學(xué)習(xí)

計算損失函數(shù)的梯度：

感知機的學(xué)習(xí)算法使用隨機梯度下降法（SGD）

?

?

總結(jié)

以上是生活随笔為你收集整理的机器学习笔记：感知器的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。