还说不会深度学习,三招帮你“炼丹”成功
深度學習領域發展仍是火熱朝天,眾多方向門派百花齊放,CV和NLP領域一直是高手云集,Transformer最近異軍突起,卷起一片波瀾,其他眾多領域,包括:遷移學習、強化學習、集成學習等,也有著各派的掌舵人。顯而易見,這一眾深度學習大佬無不是各派“武功”的集大成者,都有著自己的一套“深度學習煉丹”秘笈,簡單羅列一些,真實看得人眼花繚亂。
學完這些“秘笈”,你必然有一種“神功在手,天下我有”的錯覺。自我感覺是,深度學習不就是conv(卷積)、pooling(池化)、optimizer(優化器)、loss function(損失函數)等等嗎……依照著“秘笈”構建自己的網絡模型:3x3卷積核簡單易用,數據特征提取簡潔且高效;后面接著池化層,訓練數據量瞬間減少一半;這優化器,當然選用Adam,快且準地擊中目標;損失函數交叉熵當仁不讓。看看自己涉及的這套網絡模型,感覺深度真的是簡單的很。
這不,當你迫不及待的開啟自己深度學習“煉丹”道路,卻發現簡直是“蜀道難,難于上青天”啊!
啥,卷積不就是模版匹配、特征提取嘛,后面的轉置卷積(transposed conv)、空洞卷積(dilated conv)、分組卷積(group conv)等等都是啥呀……
網絡模型代碼實現又是一堆坑,怎么導入不同格式的數據,怎么定義網絡結構,怎么調用優化器和損失函數,怎么可視化網絡模型輸出結果,怎么調用GPU進行模型加速。。。。。。各種模型模塊配置好了,結果一運行,還是報出一堆錯誤。。。
僅僅是這些問題嗎?那你就小瞧深度學習了。
在算法模型推陳出新,模型越堆越深、模塊越來越復雜,還是AlexNet那類模型的簡單易懂。。。
所以,到底怎樣才算是正式入門深度學習呢?
1.夯實基礎,練就“內功”
要夯實基礎理論,必然需要研究理論的發展起源。咱們從人工智能的發展歷史開始研究,逐步進入到機器學習和神經網絡的階段,并且結合計算機視覺和自然語言這兩大應用方向具體分析理論知識,這樣學習之后,理論知識才能愈發記得牢固,才能應用自如。
掌握知識發展脈絡后,進一步研究神經網絡和卷積神經網絡。這里,主要是反向傳播算法、感知機、神經網絡算法;結合人類視覺系統的類比,對卷積運行進行詳細而又形象的分析闡述。
最后一塊理論知識,就是算法優化和調參了,包括:模型的分析和驗證、指標的設計和選擇、模型偏差的計算、以及模型具體的優化策略選取。
2.選用Pytorch,磨刀不誤砍柴工
俗話說得好,重劍無鋒,PyTorch就是這把“重劍”,有了上面理論知識加持,咱們就應該手握這把“重劍”披荊斬棘。
PyTorch這把重劍簡單易用,提供了基本的Tensor對象,以及提供了許多預處理、優化器、損失函數、網絡模型模塊,這樣我們可以順手拈來,結合TensorBoard,可以高效的可視化咱們“煉丹”的過程和結果。此外,PyTorch還支持并行操作,利用多GPU加速訓練。
3.實踐磨煉,練就本領
到這里,咱們武功已經小有成就,需要到真實場景下學習具體的“武術技巧”----也就是在深度學習不同領域中實踐學習。
這里,主要給出兩個著名的領域:CV領域、NLP領域。
CV領域中的分類、識別都是重要的“武術技巧”,具體有Faster RCNN、YOLO系列、U-Net系列等等。
在實踐NLP領域之前,咱們首先需要掌握基本的循環神經網絡(RNN)的知識,涉及RNN算法、LSTM模型和GRU的介紹。接著就是NLP中文本分類表示的具體實踐。
實踐完這兩塊領域之后,咱們基本具備獨立深度學習“煉丹”的武藝了!
深藍學院開設了《深度學習:理論與實踐》課程,深度學習三步走的秘籍一套打包領走!
實踐項目
>左右滑動查看更多<
課程大綱
你能收獲
a.充分理解相比于經典的神經網絡,深度神經網絡強大的表示學習能力;
b.掌握經典的深度神經網絡模型(CNN,RNN,LSTM)思想原理;
c.學會使用深度學習解決實際任務,及解決任務的整體流程;
d.熟悉當下主流的深度學習框架Pytorch,并通過該框架做CV及NLP領域的實踐。
精彩課程
掃碼添加育心,備注【秘籍】
快速通過好友
總結
以上是生活随笔為你收集整理的还说不会深度学习,三招帮你“炼丹”成功的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: div滚动字幕
- 下一篇: 【Pandas】这份Pandas练习题,