几何间隔、函数间隔和||W||
生活随笔
收集整理的這篇文章主要介紹了
几何间隔、函数间隔和||W||
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
SVM是通過超平面將樣本分為兩類。
在超平面確定的情況下,可以相對地表示點距離超平面的遠近。對于兩類分類問題,如果,則的類別被判定為1;否則判定為-1。
所以如果,則認為的分類結果是正確的,否則是錯誤的。且的值越大,分類結果的確信度越大。反之亦然。
所以樣本點與超平面之間的函數間隔定義為
但是該定義存在問題:即和同時縮小或放大M倍后,超平面并沒有變化,但是函數間隔卻變化了。所以,需要將的大小固定,如,使得函數間隔固定。這時的間隔也就是幾何間隔 。
幾何間隔的定義如下
實際上,幾何間隔就是點到超平面的距離。想像下中學學習的點到直線的距離公式
所以在二維空間中,幾何間隔就是點到直線的距離。在三維及以上空間中,就是點到超平面的距離。而函數距離,就是上述距離公式中的分子,即未歸一化的距離。
定義訓練集到超平面的最小幾何間隔是
SVM訓練分類器的方法是尋找到超平面,使正負樣本在超平面的兩側,且樣本到超平面的幾何間隔最大。
所以SVM可以表述為求解下列優化問題
以上內容在《統計學習方法》中,均有詳細的講解。
作者:Jason Gu
鏈接:https://www.zhihu.com/question/20466147/answer/28469993
總結
以上是生活随笔為你收集整理的几何间隔、函数间隔和||W||的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 矩阵求导实例
- 下一篇: 机器学习算法小结与收割offer遇到的问