求解LambdaMART的疑惑?
生活随笔
收集整理的這篇文章主要介紹了
求解LambdaMART的疑惑?
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
求解LambdaMART的疑惑?
研究這個LambdaMART好久了,無奈自己在這瞎研究,腦子實在不夠用,網上也看了博客,到最后還是看不懂,我明白的是MART是一個學習打分的算法,通過讓多棵樹進行線性融合,結果得出一個分數,而每一輪就是不斷的學習殘差的過程。但是我不明白的是,LambdaMART中的Lambda到底是怎么會代表著梯度(它是從RankNet中推導的,但是實在是沒明白),它的物理意義是什么?請大神用通俗易懂的話講給在下,求講解LambdaMART算法的每一步具體的含義,有理解的,請來吧,謝謝了。
添加評論 分享
0贊同 反對,不會顯示你的姓名 姜國華 ,小程序員 是梯度。RankNet在推導的時候只用了Ui比Uj的相關性高還是低(-1, 0, 1),沒用上包含位置信息的評估指標(如NDCG),就推出了梯度lambda。所以LambdaMART的lambda,就強硬的在RankNet的lambda上乘上了評估指標的變化(因為評估指標不連續導致目標函數難以推… 顯示全部 是梯度。RankNet在推導的時候只用了Ui比Uj的相關性高還是低(-1, 0, 1),沒用上包含位置信息的評估指標(如NDCG),就推出了梯度lambda。所以LambdaMART的lambda,就強硬的在RankNet的lambda上乘上了評估指標的變化(因為評估指標不連續導致目標函數難以推導)。注意RankNet到LambdaMART的目標函數,從代價函數變成了效用函數,所以從使用負梯度變成了正梯度。
總結
以上是生活随笔為你收集整理的求解LambdaMART的疑惑?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 机器学习排序之Learning to R
- 下一篇: 从回归树到GBDT