最近在用這個算法打比賽，記錄一下
轉(zhuǎn)載博客：https://www.cnblogs.com/pengwang52/p/9623093.html、http://www.cnblogs.com/wanglei5205/p/8579244.html

boostergbtree 樹模型做為基分類器（默認(rèn)）gbliner 線性模型做為基分類器 silentsilent=0時，不輸出中間過程（默認(rèn)）silent=1時，輸出中間過程 nthreadnthread=-1時，使用全部CPU進(jìn)行并行運(yùn)算（默認(rèn)）nthread=1時，使用1個CPU進(jìn)行運(yùn)算。 scale_pos_weight正樣本的權(quán)重，在二分類任務(wù)中，當(dāng)正負(fù)樣本比例失衡時，設(shè)置正樣本的權(quán)重，模型效果更好。例如，當(dāng)正負(fù)樣本比例為1:10時，scale_pos_weight=10。

模型參數(shù)

n_estimatores含義：總共迭代的次數(shù)，即決策樹的個數(shù)調(diào)參： early_stopping_rounds含義：在驗(yàn)證集上，當(dāng)連續(xù)n次迭代，分?jǐn)?shù)沒有提高后，提前終止訓(xùn)練。調(diào)參：防止overfitting。 max_depth含義：樹的深度，默認(rèn)值為6，典型值3-10。調(diào)參：值越大，越容易過擬合；值越小，越容易欠擬合。 min_child_weight含義：默認(rèn)值為1,。調(diào)參：值越大，越容易欠擬合；值越小，越容易過擬合（值較大時，避免模型學(xué)習(xí)到局部的特殊樣本）。可根據(jù)公式大致計(jì)算min_child_weight=1/sqrt(ratio_rare_event) subsample含義：訓(xùn)練每棵樹時，使用的數(shù)據(jù)占全部訓(xùn)練集的比例。默認(rèn)值為1，典型值為0.5-1。調(diào)參：防止overfitting。 colsample_bytree含義：訓(xùn)練每棵樹時，使用的特征占全部特征的比例。默認(rèn)值為1，典型值為0.5-1。調(diào)參：防止overfitting。

學(xué)習(xí)任務(wù)參數(shù)

learning_rate含義：學(xué)習(xí)率，控制每次迭代更新權(quán)重時的步長，默認(rèn)0.3。調(diào)參：值越小，訓(xùn)練越慢。典型值為0.01-0.2。 objective 目標(biāo)函數(shù)回歸任務(wù)reg:linear (默認(rèn))reg:logistic 二分類binary:logistic 概率 binary：logitraw 類別多分類multi：softmax num_class=n 返回類別multi：softprob num_class=n 返回概率rank:pairwise eval_metric回歸任務(wù)(默認(rèn)rmse)rmse--均方根誤差mae--平均絕對誤差分類任務(wù)(默認(rèn)error)auc--roc曲線下面積error--錯誤率（二分類）merror--錯誤率（多分類）logloss--負(fù)對數(shù)似然函數(shù)（二分類）mlogloss--負(fù)對數(shù)似然函數(shù)（多分類） gamma懲罰項(xiàng)系數(shù)，指定節(jié)點(diǎn)分裂所需的最小損失函數(shù)下降值。調(diào)參： alphaL1正則化系數(shù)，默認(rèn)為1 lambdaL2正則化系數(shù)，默認(rèn)為1

轉(zhuǎn)載于:https://www.cnblogs.com/san333/p/10803281.html

總結(jié)

以上是生活随笔為你收集整理的XGBoost的参数说明的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。