机器学习:核方法
文章目錄
- Kernel Trick
- 兩族核函數族
- 使用示例:感知機的對偶算法
- 感知機的對偶算法非核方法
- 感知機的對偶算法非核方法
- 使用示例:SVM的原始問題的核方法
- 使用示例:SVM的對偶問題的核方法
Kernel Trick
核技巧的思想如下:
1、將算法表述成樣本點內積的組合(這經常能通過算法的對偶形式實現)
2、設法找到核函數K(xi,xj),它能返回樣本點xi、xj被?作用后的內積
3、用K(xi,xj)替換xi?xj、完成低維到高維的映射(同時也完成了從線性算法到非線性算法的轉換)
對于任意一個損失函數和一個單調遞增的正則化項組成的優化問題、我們都能夠對其應用核技巧
兩族核函數族
使用示例:感知機的對偶算法
感知機的對偶算法非核方法
感知機的對偶算法非核方法
使用示例:SVM的原始問題的核方法
使用示例:SVM的對偶問題的核方法
使用核方法后:
總結
- 上一篇: 机器学习:SVM算法的对偶形式
- 下一篇: Python学习:numpy点乘,按元素