机器学习笔记:FLOPs
生活随笔
收集整理的這篇文章主要介紹了
机器学习笔记:FLOPs
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
1?FLOPS與FLOPs
FLOPS:floating point operations per second的縮寫,意指每秒浮點運算次數,理解為計算速度。是一個衡量硬件性能的指標。
FLOPs:注意s小寫,是floating point operations的縮寫(s表復數),意指浮點運算數,理解為計算量??梢杂脕砗饬克惴?模型的復雜度。
2 卷積的FLOPs
?結論:卷積層的計算能力(FLOPs)等于上圖中兩個立方體(綠色和橙色)體積的乘積(V1*V2)
卷積層 wx + b 需要計算兩部分
1)首先考慮前半部分 wx 的計算量:
令 :
- k 表示卷積核大小;
- c 表示輸入 的channel的數量
那么對于輸出的一個單元格來說,他需要進行k*k*c次乘法。每個懲罰結果相加,得到一個數值,這個就是加法的數量,k*k*c-1次
那么一共有H*W(輸出每一個channel的長度和寬度),輸出有o個channel,那么輸出的單元格總數為H*W*o
所以,計算wx的時候,需要
k*k*c*H*W*o次乘法和(k*k*c-1)*H*W*o次加法
2)在考慮偏差項b包含的計算量
輸出的每一個單元格上做一個加法操作,所以,計算偏差項的時候需要
H*W*o次加法
所以綜合考慮,我們需要
k*k*c*H*W*o次加法和k*k*c*H*W*o次乘法
令一次加法和一次乘法表示一個FLOP,那么這個卷積層的FLOPs為k*k*c*H*W*o
?
總結
以上是生活随笔為你收集整理的机器学习笔记:FLOPs的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 机器学习笔记:非负矩阵分解问题 NMF
- 下一篇: 论文笔记:Integrating Cla