大家好，歡迎來到我們的星球知識小卡片專欄，本期給大家分享AutoML的核心技術點。

作者&編輯 | 言有三

1 AutoML與數據增強

大家都知道數據增強很重要，是深度學習必備良藥，寫論文刷比賽提指標的大殺器。如果讓模型針對具體的任務自動學習數據增強，理論上會更加智能，這便是基于AutoML的數據增強技術，它主要是用于自動學習數據增強策略。

2?AutoML與網絡優化參數

隨著深度學習技術的發展，激活函數，歸一化方法，最大池化方法等都發展出了不少的變種，而最新的研究則集中于如何使用AutoML技術去進行設計。

3?AutoML與模型結構搜索

一直以來，網絡結構的設計是一個非常需要經驗且具有挑戰性的工作，研究人員從設計功能更加強大和更加高效的模型兩個方向進行研究，隨著各類經典網絡設計思想的完善，如今要手工設計出更優秀的模型已經很難，而以AutoML為代表的自動化機器學習技術就成為了大家關注的熱點，其中用于搜索的方法包括強化學習，進化算法，貝葉斯優化，而需要優化的包括已有結構的參數搜索，子單元的搜索，整個網絡架構的搜索等。

4?AutoML與模型壓縮

雖然NAS本身具有模型優化的功能，但是當前也有許多成熟的模型優化方法，比如模型剪枝，量化，蒸餾，AutoML技術也在其中大展宏圖。

5 AutoML與模型目標與方法設計

一個有效的損失函數在深度學習任務中起了關鍵作用，然而損失函數都是人為設定，不僅需要有經驗的人員進行反復嘗試，也只能獲得次優的方案，如果可以讓模型自動對優化目標進行學習，將有望以更低的成本學習到更優的模型。另一方面，要成功訓練一個深度學習模型，正確的優化策略是非常重要的，如果使用不當結果會產生很大的差異，AutoML也可以在其中進行探索。

6 其他

總的來說，AutoML有非常多的研究方向，包括：

(1) 特征工程。

(2) 數據使用。

(3) 網絡參數優化。

(4) 強化學習與網絡結構搜索。

(5) 進化算法與網絡結構搜索。

(6) 貝葉斯優化等方法與網絡結構搜索。

(7) 網絡搜索的加速方法。

(8) 其他等等。?

以上內容，如果你不想自己學習，可以去我們知識星球的網絡結構1000變板塊—AutoML板塊閱讀。

有三AI知識星球

知識星球是有三AI的付費內容社區，里面包括各領域的模型學習，數據集下載，公眾號的付費圖文原稿，技術總結PPT和視頻，知識問答，書籍下載，項目推薦，線下活動等資源，了解詳細請閱讀以下文章：

【雜談】有三AI知識星球一周年了！為什么公眾號+星球才是完整的？

【雜談】萬萬沒想到，有三還有個保密的‘朋友圈’，那里面都在弄啥！

轉載文章請后臺聯系

侵權必究

往期精選

• 【雜談】2020年有三AI計算機視覺培養計劃詳解，該不該學&怎么學CV的簡單討論

• 【年終總結】2019年有三AI做了什么，2020年我們要做什么？
  

• 【總結】有三AI秋季劃模型優化組3月直播講了哪些內容，為什么每一個從事深度學習的同學都應該掌握模型優化的內容

• 【總結】有三AI秋季劃人臉算法組3月直播講了哪些內容，計算機視覺你不可能繞開人臉圖像

• 【總結】有三AI秋季劃圖像質量組3月直播講了哪些內容，為什么解決好底層圖像處理問題那么重要

• 【星球知識卡片】殘差網絡家族10多個變種學習卡片，請收下！

• 【星球知識卡片】移動端高效率的分組網絡都發展到什么程度了？

• 【星球知識卡片】注意力機制發展如何了，如何學習它在各類任務中的應用？

• 【星球知識卡片】模型剪枝有哪些關鍵技術，如何對其進行長期深入學習

• 【星球知識卡片】模型量化的核心技術點有哪些，如何對其進行長期深入學習

• 【星球知識卡片】模型蒸餾的核心技術點有哪些，如何對其進行長期深入學習

• 【星球知識卡片】視頻分類與行為識別有哪些核心技術，對其進行長期深入學習

• 【星球知識卡片】圖像生成都有哪些核心技術，如何對其進行長期深入學習

總結

以上是生活随笔為你收集整理的【星球知识卡片】AutoML都有哪些核心技术，如何对其进行长期深入学习的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。