举例讲清楚模型树和回归树的区别
生活随笔
收集整理的這篇文章主要介紹了
举例讲清楚模型树和回归树的区别
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
根據(jù)上面圖中的一個(gè)例子,我們來(lái)分析下,假設(shè)A、B兩點(diǎn)是曲線上的噪聲點(diǎn)。
模型樹的葉子節(jié)點(diǎn)是一個(gè)分段線性函數(shù)[1]。
回歸樹的葉子節(jié)點(diǎn)是取一個(gè)區(qū)間的平均(一個(gè)常數(shù)值)。
上述圖中AB區(qū)間的均值是一個(gè)暗點(diǎn)。
所以:
對(duì)于節(jié)點(diǎn)A而言,模型樹(一個(gè)分段線性函數(shù))的估計(jì)離主曲線更遠(yuǎn)(噪聲點(diǎn)A被過(guò)擬合),此時(shí)選擇回歸樹(預(yù)測(cè)值為藍(lán)色點(diǎn))更加合適。
對(duì)于節(jié)點(diǎn)B而言,回歸樹(均值常數(shù))導(dǎo)致B的預(yù)測(cè)值是藍(lán)色點(diǎn),離主曲線太遠(yuǎn)(過(guò)擬合),此時(shí)選用模型樹(一個(gè)分段線性函數(shù))更加合適
Reference:
[1]Is Tree decisiontree Regressor a model tree or a regression tree
總結(jié)
以上是生活随笔為你收集整理的举例讲清楚模型树和回归树的区别的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: CCP(Cost complexity
- 下一篇: Theory Defect in sel