當(dāng)前位置:
首頁 >
求解LambdaMART的疑惑?
發(fā)布時間:2025/3/21
46
豆豆
生活随笔
收集整理的這篇文章主要介紹了
求解LambdaMART的疑惑?
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
求解LambdaMART的疑惑?
研究這個LambdaMART好久了,無奈自己在這瞎研究,腦子實在不夠用,網(wǎng)上也看了博客,到最后還是看不懂,我明白的是MART是一個學(xué)習(xí)打分的算法,通過讓多棵樹進(jìn)行線性融合,結(jié)果得出一個分?jǐn)?shù),而每一輪就是不斷的學(xué)習(xí)殘差的過程。但是我不明白的是,LambdaMART中的Lambda到底是怎么會代表著梯度(它是從RankNet中推導(dǎo)的,但是實在是沒明白),它的物理意義是什么?請大神用通俗易懂的話講給在下,求講解LambdaMART算法的每一步具體的含義,有理解的,請來吧,謝謝了。
添加評論 分享
0贊同 反對,不會顯示你的姓名 姜國華 ,小程序員 是梯度。RankNet在推導(dǎo)的時候只用了Ui比Uj的相關(guān)性高還是低(-1, 0, 1),沒用上包含位置信息的評估指標(biāo)(如NDCG),就推出了梯度lambda。所以LambdaMART的lambda,就強(qiáng)硬的在RankNet的lambda上乘上了評估指標(biāo)的變化(因為評估指標(biāo)不連續(xù)導(dǎo)致目標(biāo)函數(shù)難以推… 顯示全部 是梯度。RankNet在推導(dǎo)的時候只用了Ui比Uj的相關(guān)性高還是低(-1, 0, 1),沒用上包含位置信息的評估指標(biāo)(如NDCG),就推出了梯度lambda。所以LambdaMART的lambda,就強(qiáng)硬的在RankNet的lambda上乘上了評估指標(biāo)的變化(因為評估指標(biāo)不連續(xù)導(dǎo)致目標(biāo)函數(shù)難以推導(dǎo))。注意RankNet到LambdaMART的目標(biāo)函數(shù),從代價函數(shù)變成了效用函數(shù),所以從使用負(fù)梯度變成了正梯度。
總結(jié)
以上是生活随笔為你收集整理的求解LambdaMART的疑惑?的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 机器学习排序之Learning to R
- 下一篇: 从回归树到GBDT