感知机学习
有勇氣的牛排
官網(wǎng):https://www.920vip.net/
感知機模型
(1)二分類問題
(2)線性可分的
(3)感知機模型三要素(假設(shè)空間,策略,算法)
感知機對應(yīng)于輸入空間(特征空間)中將實例劃分為正負(fù)兩類的分離超平面,屬于判別模型
由輸入空間到輸出空間如下函數(shù),使用符號函數(shù)可以區(qū)分開兩個類別的輸出。
由輸入空間到輸出空間如下函數(shù),使用符號函數(shù)可以區(qū)分開兩個類別的輸出。
[外鏈圖片轉(zhuǎn)存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-nc4TDo0U-1624286574320)(image-20210621222337458.png)]
感知機實際上就是一個超平面將空間劃開兩部分。
策略
定義:(經(jīng)驗)損失函數(shù) 并將損失函數(shù)極小化
感知機采用的損失函數(shù)是誤分類點到超平面S的總距離,當(dāng)極小化,總距離=0時,誤分類點總數(shù)為0,即達(dá)到期望目標(biāo)。
因此損失函數(shù)定義為
算法
常用 梯度下降法
具體算法采用的不是批量梯度下降,而是隨機梯度下降。
在隨機梯度下降時,每次隨機選取一個誤分類點使其梯度下降。
這種梯度下降方法在后面被證明了是可以在一定時間內(nèi)完成的。
算法流程:
算法分析案例
參考:
https://blog.csdn.net/red_stone1/article/details/80491895
總結(jié)