目標(biāo)檢測Loss大盤點(diǎn)

作者丨Augus@知乎

來源丨h(huán)ttps://zhuanlan.zhihu.com/p/235533342

編輯丨極市平臺

導(dǎo)讀

?

本文整理了Focal Loss、IOU Loss、GIOU Loss等的多種loss的相關(guān)信息，包括公式表示、優(yōu)缺點(diǎn)和相關(guān)論文等方面的內(nèi)容。

L2, L1, smooth L1

表示

smooth L1 loss 相對于 L2 loss的優(yōu)點(diǎn)：

當(dāng)預(yù)測框與 ground truth 差別過大時(shí)，梯度值不至于過大；

當(dāng)預(yù)測框與 ground truth 差別很小時(shí)，梯度值足夠小。

Focal Loss

動機(jī)

在one-stage檢測算法中，會出現(xiàn)正負(fù)樣本數(shù)量不平衡以及難易樣本數(shù)量不平衡的情況，為了解決則以問題提出了focal loss。

hit的檢測框就是正樣本。容易的正樣本是指置信度高且hit的檢測框，困難的負(fù)樣本就是置信度低但hit的檢測框，容易的負(fù)樣本是指未hit且置信度低的檢測框，困難的負(fù)樣本指未hit但置信度高的檢測框。

表現(xiàn)形式

目的是解決樣本數(shù)量不平衡的情況 - 正樣本loss增加，負(fù)樣本loss減小 - 難樣本loss增加，簡單樣本loss減小

參考配置： ，

IOU loss

本文由曠視提出，發(fā)表于2016 ACM

arxiv2016: UnitBox: An Advanced Object Detection Network

4個(gè)坐標(biāo)點(diǎn)獨(dú)立回歸的缺點(diǎn)

通過4個(gè)點(diǎn)回歸坐標(biāo)框的方式是假設(shè)4個(gè)坐標(biāo)點(diǎn)是相互獨(dú)立的，沒有考慮其相關(guān)性，實(shí)際4個(gè)坐標(biāo)點(diǎn)具有一定的相關(guān)性

不具有尺度不變形

可能存在相同的l1 或 l2 loss（如下圖），但是IOU不唯一。

表示

優(yōu)點(diǎn)

尺度不變性，也就是對尺度不敏感（scale invariant）， 在regression任務(wù)中，判斷predict box和gt的距離最直接的指標(biāo)就是IoU。(滿足非負(fù)性；同一性；對稱性；三角不等性)

GIOU Loss

本文由斯坦福學(xué)者提出，發(fā)表于CVPR2019

論文鏈接：https://arxiv.org/abs/1902.09630

github鏈接：https://github.com/generalized-iou/g-darknet

IOU缺點(diǎn)

如果兩個(gè)框沒有相交，根據(jù)定義，IoU=0，不能反映兩者的距離大小（重合度）。同時(shí)因?yàn)閘oss=0，沒有梯度回傳，無法進(jìn)行學(xué)習(xí)訓(xùn)練。

IoU無法精確的反映兩者的重合度大小。如下圖所示，三種情況IoU都相等，但看得出來他們的重合度是不一樣的，左邊的圖回歸的效果最好，右邊的最差。

相同的IOU，重合度不同

公式表示

C表示包含兩個(gè)框的最小矩形

優(yōu)點(diǎn)

• 尺度不變性
• 邊框相交時(shí)，可以反映邊框的相交情況

DIOU Loss

• 天津大學(xué) AAAI 2020
• 論文鏈接：https://arxiv.org/abs/1911.08287
• github鏈接：https://github.com/Zzh-tju/DIoU-darknet

GIOU Loss 的缺點(diǎn)

當(dāng)目標(biāo)框完全包裹預(yù)測框的時(shí)候，IoU和GIoU的值都一樣，此時(shí)GIoU退化為IoU, 無法區(qū)分其相對位置關(guān)系，如下圖三種情況GIOU loss是完全一致的。

預(yù)測框被完全包裹時(shí)有相同的GIOU loss

公式表示

其中 表示歐式距離，分子d表示GT框和Inference框中心點(diǎn)距離的平方，分母c表示GT框和Inference框最小外接矩形的對角線距離。

DIOU的優(yōu)點(diǎn)

尺度不變性

相比于GIOU，優(yōu)化距離替換優(yōu)化面積，收斂速度更快。

解決GIOU的缺點(diǎn)：完全包裹預(yù)測框時(shí)loss一樣的情況。

CIOU Loss

天津大學(xué) AAAI 2020

論文鏈接：https://arxiv.org/abs/1911.08287

github鏈接：https://github.com/Zzh-tju/DIoU-darknet

DIOU的問題

DIOU沒有考慮到檢測框的長寬比。長寬比更接近的邊框應(yīng)當(dāng)有更低的loss。

公式表示

參數(shù) 是個(gè)trade off的參數(shù)，參數(shù) 用來衡量長寬比一致性。

參考文章

目標(biāo)檢測中的loss

目標(biāo)檢測回歸損失函數(shù)簡介：SmoothL1/IoU/GIoU/DIoU/CIoU Loss

5分鐘理解Focal Loss與GHM——解決樣本不平衡利器

往期精彩：

【原創(chuàng)首發(fā)】機(jī)器學(xué)習(xí)公式推導(dǎo)與代碼實(shí)現(xiàn)30講.pdf

【原創(chuàng)首發(fā)】深度學(xué)習(xí)語義分割理論與實(shí)戰(zhàn)指南.pdf

喜歡您就點(diǎn)個(gè)在看！