数据挖掘之分类
2、分類
1、過分擬合問題:
造成原因有:(1)噪聲造成的過分擬合(因為它擬合了誤標記的訓練記錄,導致了對檢驗集中記錄的誤分類);(2)根據少量訓練記錄做出分類決策的模型也容易受過分擬合的影響。(由于訓練數據缺乏具有代表性的樣本,在沒有多少訓練記錄的情況下,學習算法仍然繼續細化模型就會產生這樣的模型,當決策樹的葉節點沒有足夠的代表性樣本時,很可能做出錯誤的預測)(3)多重比較也可能會導致過分擬合(大量的候選屬性和少量的訓練記錄最后導致了模型的過分擬合)
2、泛化誤差的估計:
(1)樂觀估計(決策樹歸納算法簡單的選擇產生最低訓練誤差的模型作為最終的模型)(2)悲觀誤差估計(使用訓練誤差與模型復雜度罰項的和計算泛化誤差)(3)最小描述長度原則(模型編碼的開銷加上誤分類記錄編碼的
總結
- 上一篇: 数据挖掘之离群点检测
- 下一篇: ubuntu常见错误--could no