【深度学习】每个数据科学家都必须了解的 6 种神经网络类型
神經網絡是強大的深度學習模型,能夠在幾秒鐘內合成大量數據。有許多不同類型的神經網絡,它們幫助我們完成各種日常任務,從推薦電影或音樂到幫助我們在線購物。
與飛機受到鳥類啟發的方式類似,神經網絡(NNs)也受到生物神經網絡的啟發。雖然原理相同,但過程和結構可能大不相同。下面我來介紹一下每個數據科學家必須了解的 6 種神經網絡類型。
神經網絡的6種基本類型
現在,我們了解神經網絡是如何工作的,讓我們看看深度學習中使用的神經網絡的各種類型和功能:
感知器
多層感知器
卷積神經網絡
循環神經網絡
長期短期記憶網絡
生成對抗網絡
1、感知器
感知器是最簡單的神經網絡結構。此模型也稱為單層神經網絡,僅包含兩個層:
輸入層
輸出層
這里沒有隱藏的圖層。感知器采用輸入并計算每個輸入節點的加權輸入。此加權輸入通過激活函數生成輸出。由于體系結構簡單,它不能用于復雜的任務。
2、多層感知器
多層感知器(MLP)通常表示完全連接的網絡。換句話說,一個層中的每個神經元都連接到相鄰層中的所有神經元。因此,MLP 具有比感知器更高的處理能力。但是,這些網絡的"完全連接性"使得它們容易出現數據過度擬合。減少過度擬合的典型方法包括提前停止、添加輟學層和添加正則化術語。
3、卷積神經網絡
人類使用眼睛中的神經元來識別物體,這些神經元可以檢測邊緣、形狀、深度和運動。卷積神經網絡(CNN)是計算機視覺中最重要的神經網絡類型之一,其靈感來自眼睛的視覺皮層,用于物體檢測等視覺任務。CNN 的卷積層是它與其他神經網絡區別開來的地方。此層執行點產品,即組件乘法,然后是加法。
在 CNN 的初始階段,篩選器是隨機的,不會提供任何有用的結果。使用損耗函數,調整篩選器,通過多次迭代,網絡在實現其任務(例如檢測對象邊緣)方面更上一個。盡管 CNN 通常需要大量的訓練數據,但它們廣泛適用于各種圖像甚至語言任務。CNN的靈感來自視覺皮層,因此它們廣泛用于涉及計算機視覺應用的應用。這些應用包括面部識別、人臉檢測、物體識別、手寫信件識別和醫療診斷中腫瘤的檢測。
4、循環神經網絡
當我們閱讀特定的章節時,我們并不試圖孤立地理解它,而是與前幾章有關。同樣,就像自然神經網絡一樣,機器學習模型需要利用已經學習的文本來理解文本。
在傳統的機器學習模型中,這是不可能的,因為我們不能存儲模型的前幾個階段。但是,循環神經網絡(通常稱為 RNN )是一種神經網絡類型,可以為我們做到這一點,這使得它們對于需要使用過去數據的應用程序非常有用。讓我們仔細看看下面的 RNN。
循環神經網絡是旨在解釋時態或順序信息的網絡。RNN 使用序列中的其他數據點進行更好的預測。他們通過輸入和重用序列中以前節點或以后節點的激活來影響輸出來達到此目的。
RNN 通常用于連接序列應用,如時間序列預測、信號處理和手寫字符識別。此外,RNN廣泛應用于音樂生成、圖像字幕和預測股市波動
5、長期短期記憶網絡
在 RNN 中,我們只能保留最近階段的信息。但對于像語言翻譯這樣的問題,我們需要更多的保留。這就是 LSTM 網絡擅長的地方。
為了學習長期依賴性,我們的神經網絡需要記憶能力。LSTM 是 RNN 的一個特例,可以做到這一點。它們具有與 RNN 相同的鏈式結構,但具有不同的重復模塊結構。這種重復模塊結構允許網絡保留大量上一階段值。我已經提到LSTM網絡對于語言翻譯系統的強大功能,但它們有廣泛的應用。其中一些應用程序包括序列到序列建模任務,如異常檢測、語音識別、文本總結和視頻分類。
6、生成對抗網絡
給定訓練數據,生成對抗網絡(或簡單地說,GAN)會學習使用與訓練數據相同的統計信息生成新數據。例如,如果我們在照片上訓練一個 GAN 模型,那么訓練有素的模型將能夠生成類似于輸入照片的新照片。
GAN 包含兩個部分:一個生成器和一個鑒別器。生成器模型創建新數據,而鑒別器嘗試從生成的數據中確定真實數據。隨著生成器和鑒別器在各自的工作上做得更好,生成的數據因此得到改善,直到(理想情況下)質量與訓練數據幾乎相同。GAN 通常用于為游戲和動畫電影創建卡通圖像或面孔。此外,GAN 可以幫助從少量數據生成合成數據,以幫助改進機器學習模型。
往期精彩回顧適合初學者入門人工智能的路線及資料下載機器學習及深度學習筆記等資料打印機器學習在線手冊深度學習筆記專輯《統計學習方法》的代碼復現專輯 AI基礎下載機器學習的數學基礎專輯 本站qq群851320808,加入微信群請掃碼:總結
以上是生活随笔為你收集整理的【深度学习】每个数据科学家都必须了解的 6 种神经网络类型的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 温州大学《机器学习》课程课件(二)(回归
- 下一篇: windows7系统电脑管理员权限的更改