文章目錄

• 神經(jīng)網(wǎng)絡向量形式:
• 神經(jīng)網(wǎng)絡矩陣形式:
• 神經(jīng)網(wǎng)絡損失函數(shù)：
• 求導：
• • 求導前準備：
  • 求解析解：
  • 感知機求?L/?w：
  • 感知機求?L/?w1,?L/?w2：
• 附錄：方便查尋找使用
• • 想要完成新的任務，掌握矩陣求導必不可少。
  • 一般處理ＡX型:
  • 處理Ａ.TＡ/X型:
  • 處理AB/X型:
  • 處理ABCX型:
  • 處理Ａ.T/X.T型:

神經(jīng)網(wǎng)絡向量形式:

$$y=w^T.x+b$$
這只是一個樣本的處理，行向量點乘列向量。而我們實際操作使用的是矩陣形式。

神經(jīng)網(wǎng)絡矩陣形式:

矩陣形式Ｘ放在前面，所以都是ｘ.dot()，我們使用numoy處理都是使用矩陣。

神經(jīng)網(wǎng)絡損失函數(shù)：

求導：

求導前準備：

以下非常重要要當做基本公式使用．
公式１：

公式２：

公式３：

求解析解：

使用三個公式

感知機求?L/?w：

使用公式1

感知機求?L/?w1,?L/?w2：

?L/?w2使用公式１，?L/?w1使用公式１和反向傳遞的誤差

附錄：方便查尋找使用

想要完成新的任務，掌握矩陣求導必不可少。

一般處理ＡX型:

處理Ａ.TＡ/X型:

處理AB/X型:

處理ABCX型:

處理Ａ.T/X.T型:

總結

以上是生活随笔為你收集整理的机器学习：神经网络矩阵形式，向量形式，矩阵求导的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內容還不錯，歡迎將生活随笔推薦給好友。