對dropout的理解詳細版

訓練的時候需要dropout，測試的時候直接去掉。

dropout可以比較有效地減輕過擬合的發生，一定程度上達到了正則化的效果。消除減弱了神經元節點間的聯合適應性，增強了泛化能力。

Dropout策略在卷積隱藏層中使用較少。

如果你既不想在訓練的時候，對x進行放大，也不愿意在測試的時候，對權重進行縮小(乘以概率p)。那么你可以測試n次，這n次都采用了dropout，然后對預測結果取平均值，這樣當n趨近于無窮大的時候，就是我們需要的結果了。

需要測試的時候將輸出結果乘以 1/1-p 使下一層的輸入規模保持不變。

Dropout是一個超參，需要根據具體的網路，具體的應用領域進行嘗試。

dropout達到了一種Vote的作用，減少神經元之間復雜的共適應性。

總結

以上是生活随笔為你收集整理的对dropout的理解详细版的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。