神经网络的迭代次数和收敛误差与谐振子的位移和时间
幾乎任何隨時間變化的周期函數或準周期函數F(t),都可以展成一些依賴于時間的諧和函數的無限級數---就是說,?它可以分解成許多諧振子之和。這級數(稱為傅立葉級數)的每一項,可以用一個整數n來標示,n等于1、2、3,等等。每一項包括一個振幅An、一個角頻率ωn,以及時間t。???????????????
這些要素的每組,都可以利用數學符號e(自然對數的底)和i(-1的平方根)來結合成級數中的一項。該項可以寫成
這就代表一個簡諧振子??????????????????
系在彈簧上的小球或擺動的擺,它以振幅A和頻率w/(2π)]而振動。?????????????
---David C. Cassidy_ 大衛·C.卡西第_ 戈革(譯) - 海森伯傳-商務印書館 (2002)-P258
?
已有大量實驗表明神經網絡的收斂誤差δ和迭代次數n之間有數學關系
比如用1個卷積核分類9*9的mnist3,4,5
可以得到數據
把冪函數化成指數函數
這相當于可以將這個網絡看作一個諧振子,這個諧振子的位移是迭代次數,時間是-lnδ,而振幅是3879.73,頻率是-i0.31/(2π)。
分類準確率表達的是測試集與分類集的相似程度,越相似分類準確率越接近100%,表明整個系統越穩定,能級越低。大量實驗表明收斂誤差越小分類準確率越接近100%。也就是時間越長能量越小。所以-lnδ與分類準確率之間符合時間和能量的測不準關系。這從側面表明了把神經網絡看作諧振子的合理性。
?
?
總結
以上是生活随笔為你收集整理的神经网络的迭代次数和收敛误差与谐振子的位移和时间的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Mnist 0的波函数
- 下一篇: 奇亚籽是什么东西?