論文提到預先準備一些模型，并且按一個手設的priority進行訓練

# Higher values indicate higher priority, priority dictates the order models are trained for a given level. DEFAULT_MODEL_PRIORITY = dict(RF=100,XT=90,KNN=80,GBM=70,CAT=60,NN=50,LR=40,custom=0, )

感覺設的很隨意

---

MODEL_TYPES = dict(RF=RFModel,XT=XTModel,KNN=KNNModel,GBM=LGBModel,CAT=CatboostModel,NN=TabularNeuralNetModel,LR=LinearModel, )

可能是Amazon經費有限，就整合了這幾個模型

---

autogluon.scheduler.fifo.FIFOScheduler#run總算在這看到了超參優化的影子了

self.searcher RandomSearcher( ConfigSpace: Configuration space object:Hyperparameters:feature_fraction, Type: UniformFloat, Range: [0.75, 1.0], Default: 1.0learning_rate, Type: UniformFloat, Range: [0.01, 0.1], Default: 0.0316227766, on log-scalemin_data_in_leaf, Type: UniformInteger, Range: [2, 30], Default: 20num_leaves, Type: UniformInteger, Range: [16, 96], Default: 31 . Number of Trials: 0. Best Config: {} Best Reward: -inf)

隨機搜索
如果能找到AG配置的超參空間，也很有價值

BaseSearcher被哪些類繼承了？

GP優化相關的類在autogluon.searcher.bayesopt.autogluon.gp_fifo_searcher.GPFIFOSearcher

這應該就是paper里面用來擬合tabular數據的NN了
autogluon.utils.tabular.ml.models.tabular_nn.tabular_nn_model.TabularNeuralNetModel
autogluon.utils.tabular.ml.models.tabular_nn.embednet.EmbedNet

構造ColumnTransformer
autogluon.utils.tabular.ml.models.tabular_nn.tabular_nn_model.TabularNeuralNetModel#_create_preprocessor

TabularNN還是值得研究的，有空看一下

總結

以上是生活随笔為你收集整理的随便看看AutoGluon-Tabular的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。