参数的范数正则/惩罚(parameter norm penalties)
生活随笔
收集整理的這篇文章主要介紹了
参数的范数正则/惩罚(parameter norm penalties)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
1. L2 范數
J~(w;X,y)=J(w;X,y)+α2wTw
J 表示的是原始的目標函數,J~ 則是二范數約束后的新的目標函數。
則根據梯度下降算法有:
- ?wJ~=?wJ+αw
- w←w???wJ~=w??(?J+αw)
- w←(1?α?)w???J
轉載于:https://www.cnblogs.com/mtcnn/p/9422396.html
與50位技術專家面對面20年技術見證,附贈技術全景圖總結
以上是生活随笔為你收集整理的参数的范数正则/惩罚(parameter norm penalties)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: mysql 多数据源多主一从复制
- 下一篇: 【转】开发人员一定要加入收藏夹的网站