【CV秋季划】模型优化很重要,如何循序渐进地学习好?
好的模型結構是深度學習成功的關鍵因素之一,不僅是非常重要的學術研究方向,在工業界實踐中也是模型是否能上線的關鍵。對各類底層深度學習模型設計和優化技術理解的深度是決定我們能否在深度學習項目中游刃有余的關鍵。
那我們究竟如何去長期學好模型優化相關的算法呢?有三AI推出了CV秋季劃-模型優化組,供長期學習相關內容,學習不限時長,永久有效。
詳情大家可以聽以下直播視頻解讀,更多補充可看圖文。
點擊邊框調出視頻工具條
整個學習內容
秋季劃模型優化小組,聚焦于讓大家能夠跟隨我們社區長期學習模型優化相關的算法,學習的東西包括8大方向:數據使用,模型使用和調參,模型性能分析,緊湊模型設計,模型剪枝,模型量化,模型蒸餾,自動化模型設計。當然最后,我們還計劃額外增加模型部署的內容。
總體的學習資料包括幾個部分:
(1) 學習書籍:有三自己撰寫的模型設計教材。
(2) 有三錄制的模型設計相關的視頻與PPT,以及有三AI出品的不定期更新的模型優化相關的付費直播。
(3) 知識星球社區:包括兩個,一個是專用于秋季劃模型優化學習小組存儲資料的星球,永久有效,不對外開放。
另一個是對外開放的有三AI知識星球,包括很多內容,大家可以自行閱讀下文了解。
【雜談】有三AI知識星球指導手冊出爐!和公眾號相比又有哪些內容?
(4)?有三AI內容組,項目組,運營組:是學習后下一步從業的真正目標。在內容組大家可以從事內容創作和教學相關的工作,獲得收入。在項目組大家可以參與各類工程項目,獲得收入。在運營組大家可以參與生態運營,獲得收入。
(5) 線上線下答疑:包括有三的微信答疑和組織的線下活動和私人線下答疑。
總的來說:學習資源是非常豐富和多維的,大家根據需要可以自取,總體的學習路線圖和每一部分的內容如下。
接下來我們再給大家介紹每一部分需要學習的內容。
數據使用
數據使用是所有深度學習項目的基礎,我們需要掌握以下內容:
(1) 如何針對自己的任務搜集數據(小型和大型數據集爬蟲)。
(2) 如何學會科學地整理數據(數據去重,質量分析等)。
(3) 各類任務中的數據增強算法以及實戰,這里我們包含圖像分類和GAN共2個任務。
模型設計和調參
模型設計和調參,我們需要掌握以下內容:
(1) 學習掌握超過10類主流的模型設計架構。
(2) 對模型進行訓練調參,體驗各類參數對模型性能的影響。
模型性能分析
模型性能分析,我們需要掌握以下內容:
(1) 如何對模型進行可視化,包括卷積核,特征圖,激活圖等。
(2) 如何對模型的計算量,參數量,計算時間進行分析。
模型優化壓縮
模型優化壓縮,我們需要掌握以下內容:
(1) 如何提高卷積核的利用率。
(2) 如何提高卷積通道的利用率。
(3) 如何在推理時進行簡單提速。
模型剪枝
模型剪枝需要學習以下內容:
(1) 主流的模型剪枝理論學習。
(2) 基于連接剪枝的方法實踐。
(3) 基于通道剪枝的方法實踐。
模型量化
模型量化需要學習以下內容:
(1) 主流的模型量化理論學習。
(2) 對稱量化方法實踐。
(3) 非對稱量化方法實踐。
模型蒸餾
知識蒸餾需要學習以下內容:
(1) 主流的模型蒸餾基礎理論學習。
(2) 基于優化目標驅動的知識蒸餾模型實踐。
(3) 基于特征匹配的知識蒸餾模型實踐。
AutoML
自動化模型設計需要學習以下內容:
(1) NAS基礎理論學習。
(2) NAS相關工具使用。
模型部署
最后,模型部署本身不屬于模型優化的內容,但是我們后續也會將模型部署的內容添加到本組,具體時間可以在群里及時關注。大家可以先熟練掌握好C++/Java編程,了解ONNX格式,MACE/MNN等工具的使用。
關于學習方式
有三AI季劃學習方式非常自由,包括:
(1) 按照給出的路線和學習資料,推薦的學習時間,可以自主把控學習進度,不限制學習時間,永久有效。建議先系統性學習理論,然后再進行實踐。另外學習資料還會動態增加,包括微信群內直播,知識星球等,下次直播內容如下,具體時間請關注群內通知。
日期 | 內容 | 時間 |
? | 數據使用技巧 | 9:30-11:30 |
模型性能分析 | 15:00-17:00 | |
? | 小模型設計理論 | 9:30-11:30 |
小模型設計實踐 | 15:00-17:00 | |
? | 模型剪枝理論 | 9:30-11:30 |
模型剪枝實踐 | 15:00-17:00 | |
? | 模型量化理論 | 9:30-11:30 |
模型量化實踐 | 15:00-17:00 | |
? | 模型蒸餾理論 | 9:30-11:30 |
模型蒸餾實踐 | 15:00-17:00 | |
? | 模型訓練技巧 | 9:30-11:30 |
模型推理優化 | 15:00-17:00 | |
? | AutoML理論 | 9:30-11:30 |
AutoML實踐 | 15:00-17:00 | |
? | 模型部署基礎 | 9:30-11:30 |
模型部署工具 | 9:30-11:30 |
(2) 有三微信群答疑,有三一對一微信答疑和線下答疑。
(3) 參與內容組,兼職當老師獲得收入。參與項目組,做真實項目獲得收入。參與運營組,獲得收入。
學會能獲得什么
由于模型設計和優化是底層技術,在所有的深度學習領域中都有用處,因此在工業界也會接觸到較多相關的項目。
關于學習效果和產出形式,下面是一些有三AI季劃成員的分享,供大家參考:
【雜談】有三AI季劃的最核心價值在哪,聽聽這些同學怎么說!
【雜談】從學員到參與書籍寫作,我在有三AI學習與成長的故事
【雜談】從學員到專欄作者、講師,我在有三AI學習與名利雙收的故事
【雜談】參加有三AI秋季劃4個月,薪資翻倍,我在有三AI都學了啥?
【雜談】一個五歲孩子媽媽在有三AI學習并且賺錢的故事?
如何報名
即日起至2020年底學費為1188元,終身有效,此后內容增加也不會新增費用,如果有書和有三AI知識星球可以抵扣相應費用,聯系有三微信Longlongtogo即可報名。
往期相關
【CV春季劃】言有三手把手帶你從0基礎學好深度學習與計算機視覺,附視頻解讀
【CV秋季劃】人臉算法那么多,如何循序漸進地學習好?
總結
以上是生活随笔為你收集整理的【CV秋季划】模型优化很重要,如何循序渐进地学习好?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【CV春季划】170分钟学习OpenCV
- 下一篇: 【视频课】一课彻底掌握深度学习图像分类各