在上一節(jié)中，我們介紹了反向傳播算法，對很多人來說，當(dāng)?shù)谝淮慰吹竭@種算法時，第一印象通常是，這個算法需要那么多繁雜的步驟，簡直是太復(fù)雜了，實在不知道這些步驟，到底應(yīng)該如何合在一起使用。就好像一個黑箱，里面充滿了復(fù)雜的步驟。如果你對反向傳播算法也有這種感受的話，這其實是正常的，相比于線性回歸算法和邏輯回歸算法而言，從數(shù)學(xué)的角度上講，反向傳播算法似乎并不簡潔，對于反向傳播這種算法，其實我已經(jīng)使用了很多年了，但即便如此，即使是現(xiàn)在，我也經(jīng)常感覺自己對反向傳播算法的理解并不是十分深入，對于反向傳播算法究竟是如何執(zhí)行的，并沒有一個很直觀的理解。做過編程練習(xí)的同學(xué)應(yīng)該可以感受到這些練習(xí)或多或少能幫助你，將這些復(fù)雜的步驟梳理了一遍，鞏固了反向傳播算法具體是如何實現(xiàn)的，這樣你才能自己掌握這種算法。在這一節(jié)中，我想更加深入地討論一下反向傳播算法的這些復(fù)雜的步驟，并且希望給你一個更加全面直觀的感受，理解這些步驟究竟是在做什么，也希望通過這段視頻，你能理解，它至少還是一個合理的算法。但可能你即使看了這段視頻，你還是覺得反向傳播依然很復(fù)雜，依然像一個黑箱，太多復(fù)雜的步驟，依然感到有點神奇，這也是沒關(guān)系的。即使是我接觸反向傳播這么多年了，有時候仍然覺得這是一個難以理解的算法，但還是希望這段視頻能有些許幫助，為了更好地理解反向傳播算法，我們再來仔細研究一下前向傳播的原理：

這是一個含有兩個輸入單元的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，當(dāng)然，沒有把偏置單元放進去，第二層和第三層各有兩個隱藏單元，不過最后只有一個輸出單元。

為了更好的理解反向傳播函數(shù)，我們來看一下?lián)p失函數(shù)，這個損失函數(shù)只適用于有一個輸出單元的情況，如果有不止一個輸出單元，只需要用k作為輸出單元的下標(biāo)，然后對他們進行求和即可。

總結(jié)

以上是生活随笔為你收集整理的反向传播算法_9.3 反向传播算法的直观理解 Backpropagation Intuition的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。