基于pytorch后量化(mnist分类)---浮点训练vs多bit后量化vs多bit量化感知训练效果对比
生活随笔
收集整理的這篇文章主要介紹了
基于pytorch后量化(mnist分类)---浮点训练vs多bit后量化vs多bit量化感知训练效果对比
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
基于pytorch后量化(mnist分類)—浮點訓練vs多bit后量化vs多bit量化感知訓練效果對比
代碼下載地址:下載地址
試了 bit 數為 1~8 的準確率,得到下面這張折線圖:
發現,當 bit >= 3 的時候,精度幾乎不會掉,bit = 2 的時候精度下降到 69%,bit = 1 的時候則下降到 10%。
這一方面是 mnist 分類任務比較簡單,但也說明神經網絡中的冗余量其實非常大,所以量化在分類網絡中普遍有不錯的效果。
卷積層量化
總結
以上是生活随笔為你收集整理的基于pytorch后量化(mnist分类)---浮点训练vs多bit后量化vs多bit量化感知训练效果对比的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: YOLO-v5训练自己的数据+Tenso
- 下一篇: 基于pytorch量化感知训练(mnis