sklearn没有实现ID3算法
https://stackoverflow.com/questions/32277562/how-to-set-up-id3-algorith-in-scikit-learn
http://scikit-learn.org/stable/modules/tree.html#tree-algorithms-id3-c4-5-c5-0-and-cart
根據(jù)這兩個鏈接可知,
其實sklearn的決策樹僅僅是實現(xiàn)了cart樹而已,
當信息計算方式為Gini,Entropy,就用來分類
注意,sklearn并沒有實現(xiàn)ID3,但是cart中使用entropy的效果,等效于“二叉樹的ID3”
因為ID3可以是“二叉決策樹”,也可以是“多叉決策樹”,所以sklearn使用決策樹+entropy方式時,
無法實現(xiàn)“基于ID3算法的多叉決策樹”
關于“基于ID3算法的多叉決策樹”
可以參考下面鏈接:
https://blog.csdn.net/wzmsltw/article/details/51057311
圖為:
另外注意,對于cart樹而言,sklearn實現(xiàn)時,
回歸是二叉樹
二分類問題,sklearn運行結果是二叉cart樹
多分類問題,sklearn運行結果也是二叉cart樹
注意,對于cart樹而言,
二分類時,使用的Gini指數(shù)最大是0.5,
多分類時,使用的Gini指數(shù)最大接近1,
這里的Gini指數(shù)并不是經(jīng)濟學中的Gini指數(shù),
經(jīng)濟學中的Gini指數(shù)取值范圍是0~1
總結
以上是生活随笔為你收集整理的sklearn没有实现ID3算法的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 《统计学习方法》P59决策树绘制-skl
- 下一篇: python2.x和python3.x-