数据预处理的概念
數據的預處理
通過特征提取,我們能得到未經處理的特征,這時的特征可能有以下問題:
不屬于同一量綱: 即特征的規格不一樣,不能夠放在一起比較。無量綱化可以解決這一問題。
信息冗余: 對于某些定量特征,其包含的有效信息為區間劃分,例如學習成績,假若只關心“及格”或不“及格”,那么需要將定量的考分,轉換成“1”和“0”表示及格和未及格。二值化可以解決這一問題。
定性特征不能直接使用: 某些機器學習算法和模型只能接受定量特征的輸入,那么需要將定性特征轉換為定量特征。最簡單的方式是為每一種定性值指定一個定量值,但是這種方式過于靈活,增加了調參的工作。通常使用啞編碼的方式將定性特征轉換為定量特征:假設有N種定性值,則將這一個特征擴展為N種特征,當原始特征值為第i種定性值時,第i個擴展特征賦值為1,其他擴展特征賦值為0。啞編碼的方式相比直接指定的方式,不用增加調參的工作,對于線性模型來說,使用啞編碼后的特征可達到非線性的效果。
存在缺失值: 缺失值需要補充。
信息利用率低: 不同的機器學習算法和模型對數據中信息的利用是不同的,之前提到在線性模型中,使用對定性特征啞編碼可以達到非線性的效果。類似地,對定量變量多項式化,或者進行其他的轉換,都能達到非線性的效果。
我們 使用sklearn中的preproccessing庫 來進行數據預處理,可以覆蓋以上問題的解決方案。
總結
- 上一篇: 一、专栏作者润森闲谈数据分析
- 下一篇: 家里的蟑螂怎么消灭?