pytorch 语义分割loss_Recall Loss:用于不平衡图像分类和语义分割的召回损失
本文針對不平衡圖像分類和語義分割問題,提出了一種基于度量召回的新損失函數:Recall Loss,很好地平衡了精度和準確性,可顯著提高不平衡圖像分類和不平衡語義分割任務的性能。
Recall Loss for Imbalanced Image Classification and Semantic Segmentation
論文(ICLR 2021投稿):Recall Loss for Imbalanced Image Classification and Semantic...注:如果上述論文鏈接無法訪問,可以看文末,論文已上傳至百度云,方便下載。
【主要貢獻】
- 我們基于metric recall引入了一種新穎的損失函數。Recall loss以其瞬時訓練召回性能權衡每個類的標準交叉熵損失。
- 提出的召回損失學習了更好的語義分割模型,該模型提供了準確性和IoU更高且平衡的性能。 我們證明了合成和真實語義分割數據集的損失。
- 提出的損失還改善了圖像分類中的特征學習。 我們使用簡單的去耦網絡在兩個常見的分類基準上顯示了最新的結果。
類別不平衡是諸如語義分割和圖像分類之類的計算機視覺應用中的基本問題。具體而言,訓練數據集中的類別分布不均勻通常會導致在代表性不足的類別上的表現不令人滿意。許多工作提出了基于類別統計信息(例如樣本數量和類別裕度)使用預先計算的權重來衡量標準交叉熵損失函數。這些方法有兩個主要缺點:
1)不斷增加權重的少數類會引入過多的誤報,尤其是在語義分割中;
2)最近的許多工作發現,預先計算的權重會對表示學習產生對抗性影響。
在這方面,我們通過重塑原交叉熵損失來提出一種hard-class mining損失,從而根據召回性能的變化動態加權每個分類的損失。我們用數學方法表明,新穎的召回損失在標準交叉熵損失和眾所周知的inverse frequency交叉熵損失之間逐漸變化,并平衡了精度和準確性。
從Inverse Frequency Loss到 Recall Loss:
從Focal Loss到 Recall Loss:
實驗結果
我們首先證明,所提出的損失有效地平衡了語義分割數據集的precision and accuracy ,并且與語義分割中使用的其他現有損失函數相比,尤其是在淺層網絡上,帶來了顯著的性能改進。
在圖像分類上,我們設計了一種簡單的兩頭訓練策略,以表明新穎的損失函數可以改善不平衡數據集上的表示學習。在Place365-LT和iNaturalist上,我們的性能優于以前最佳的方法。
論文下載
鏈接:https://pan.baidu.com/s/1BjsdBlEP5d3aKVuvGLzqXQ提取碼:cver
強烈推薦大家關注CVer知乎賬號和CVer微信公眾號,可以快速了解到最新優質的CV論文。
推薦閱讀
即插即用!Rotate to Attend:卷積Triplet注意力模塊
曠視提出MegDetV2:目標檢測/實例分割系統
綜述 | 基于深度學習的醫學圖像分割技術:全面調研
ResNet還是DenseNet?即插即用的DS漲點神器來了!
綜述 | 基于深度學習的端到端人臉識別技術:全面調研
TBC:共享Thinner Filters,實現更強的CNN!
綜述 | 行人檢測技術(從手工特征到深度學習):全面調研
超越EfficientNets!無需注意力,也能讓你的網絡更快更強!
OpenCV 4.5來了!更強的SIFT,改進RANSAC算法,新增目標跟蹤網絡SiamRPN++
綜述 | 基于深度學習的實時語義分割方法:全面調研
漲點神器!南航提出AFF:注意力特征融合
NeurIPS 2020 | 谷歌大腦提出:重新思考預訓練和自訓練
NeurIPS 2020 | 用于圖像復原/恢復的神經稀疏表示
NeurIPS 2020 | aLRPLoss:統一目標檢測中的分類和定位的平衡損失函數
CCE:具有互補交叉熵的不平衡圖像分類
谷歌地標檢索2020 Kaggle 第一名解決方案
ECCV AIM 2020 真實圖像超分辨率挑戰賽3項冠軍解決方案
LVIS 實例分割挑戰賽2020的第一名解決方案:好的Box不能保證好的Mask
ETH Zurich提出DPIR:具有Denoiser先驗的即插即用圖像恢復
綜述 | 人臉圖像質量評估:全面調研(2004-2020)
VarifocalNet:IoU-aware 密集目標檢測器(已開源)
ECCV 2020 | NAS-DIP:通過NAS實現DIP(去噪/去霧/超分辨率/修復等)
TIP 2020 | PNEN:金字塔Non-Local增強型網絡
綜述 | 小樣本學習:全面調研(Few-shot)
MiCo:用于半監督域自適應的Mixup聯合訓練
使用深度神經網絡從Noisy Labels中學習:全面調研
PyTorch3D:面向3D計算機視覺的PyTorch工具箱
剪枝filter?還是剪枝layer?這是個問題
ECCV 2020 | WeightNet:重新探索Weight網絡的設計空間
Mask TextSpotter v3:用于場景文字檢測和識別的分割Proposal網絡
ECCV 2020 | 魔鬼在細節中:車輛重識別的自監督注意力(SAVER)
ECCV 2020 | 53.5 AP!PAA:用于目標檢測的IoU預測的概率Anchor分配
ECCV 2020 | 南京理工提出FPT:特征金字塔Transformer
ECCV 2020 | 長尾數據集中多標簽分類的分布平衡損失
ECCV 2020 | BMask R-CNN:邊界保持的Mask R-CNN
ECCV 2020 | 即插即用!PSConv:將特征金字塔壓縮到緊湊的多尺度卷積層中
ECCV 2020 | STTN:用于視頻修復的時空聯合Transformer
ECCV 2020 | LiteFlowNet3:實現更準確的光流估計
總結
以上是生活随笔為你收集整理的pytorch 语义分割loss_Recall Loss:用于不平衡图像分类和语义分割的召回损失的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: mybatis plug 只查id_my
- 下一篇: python在线投票系统 统计票数_分层