通常認為：一個SM中所有的線程在同時工作，那么這個SM的效率或占用率就是100%，在這種情況下，處理程序的速度是最快的，效率是最高的。如果實際中由于資源的限制（如共享內存，寄存器），不是所有的線程都同時工作，這時，稱正在運行的線程為活躍（actived）或常駐（resident）線程。占用率一般受三個條件的限制：
1.SM最大并發線程數，SM最大并發Warp數，SM最大并發塊數
2.共享內存資源限制
3.寄存器資源限制

每個SM是GPU處理數據的最基本單元，它們運行都是獨立并行的，SM的數量通常最直觀地體現了GPU硬件的能力。

程序具體參數的設置可以在一些工具的幫助下進行，CUDA安裝目錄有個tools的文件夾，文件夾中有一個CUDA Occupancy Calculator的excel文件。把表格中硬件參數加入進去，就可以自動計算出來相應的程序運行參數。

?

1、占用率公式：每個SM中活躍線程束的數量/每個SM中最大的線程束的數量。可以看到我的設備每個SM中最大線程束是32固定的，所以現在問題變為活躍線程束為什么是20。粉色圈中的部分的最小值才是決定占用率的因素，所以可以看到占用率是由上圖中粉色圈中的寄存器因素計算而來。寄存器因素顯示：（每個SM有10個活躍blocks）*（每個block有2個線程束）=20.（所以占用率公式的分子即活躍線程束的數量就是這樣來的）。

2、所以現在變為寄存器因素中每個SM中活躍blocks為什么是10。也就是淺藍色C為什么是10。易知，C=B/A。所以此時問題變為A為什么==2，B為什么==20。

3、我查看了下A的公式：=IF(myAllocationGranularity="block",CEILING(CEILING(MyWarpsPerBlock,myWarpAllocationGranularity)*MyRegCount*limitThreadsPerWarp,myAllocationSize),MyWarpsPerBlock) ?而綠色圈中顯示寄存器分配粒度不是"block"，而是warp，所以此時A=myWarpsPerBlock=64/32=2

4、我查看了下B的公式：

=IF(myAllocationGranularity="block",limitRegsPerBlock,FLOOR(limitRegsPerBlock/CEILING(MyRegCount*limitThreadsPerWarp,myAllocationSize),myWarpAllocationGranularity)) ?而綠色圈中顯示寄存器分配粒度不是"block"，而是warp，所以此時B=FLOOR(limitRegsPerBlock/CEILING(MyRegCount*limitThreadsPerWarp,myAllocationSize),myWarpAllocationGranularity) 代入我紫色圈中的設置數值后：

?

所以到此為止，就知道ABC三處是怎么計算的了。

參考文獻：CUDA Occupancy Calculator中計算占用率_wd1603926823的專欄-CSDN博客_cuda占用率計算

?

?

總結

以上是生活随笔為你收集整理的CUDA占用率计算方法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。