計(jì)算機(jī)視覺(jué)是計(jì)算機(jī)科學(xué)的一個(gè)領(lǐng)域，主要研究從數(shù)字圖像中自動(dòng)提取信息。

Pixel-wise損失函數(shù)

類(lèi)不平衡是像素級(jí)分類(lèi)任務(wù)中常見(jiàn)的問(wèn)題。當(dāng)圖像數(shù)據(jù)中的各種類(lèi)不平衡時(shí)，就會(huì)出現(xiàn)這種情況。由于像素方面的損失是所有像素?fù)p失的平均值，因此訓(xùn)練會(huì)被分布最多的類(lèi)來(lái)主導(dǎo)。

Perceptual損失函數(shù)

Perceptual損失的數(shù)學(xué)表示

內(nèi)容-風(fēng)格損失函數(shù)—神經(jīng)網(wǎng)絡(luò)風(fēng)格轉(zhuǎn)換

風(fēng)格轉(zhuǎn)換是將圖像的語(yǔ)義內(nèi)容轉(zhuǎn)換成不同風(fēng)格的過(guò)程。風(fēng)格轉(zhuǎn)換模型的目標(biāo)是，給定一個(gè)內(nèi)容圖像(C)和一個(gè)風(fēng)格圖像(S)，生成包含C的內(nèi)容和S的風(fēng)格的輸出圖像。

內(nèi)容/風(fēng)格損失的數(shù)學(xué)表示

注意：只有減少樣式和內(nèi)容損失的優(yōu)化會(huì)導(dǎo)致高像素化和噪聲輸出。為了解決這個(gè)問(wèn)題，我們引入了total variation loss來(lái)保證生成的圖像的空間連續(xù)性和平滑性。

紋理?yè)p失

紋理?yè)p失的數(shù)學(xué)表示

注意：雖然這里的數(shù)學(xué)看起來(lái)有點(diǎn)復(fù)雜，但請(qǐng)理解紋理?yè)p失只是應(yīng)用在特征圖的gram矩陣上的感知損失。

拓?fù)涓兄獡p失函數(shù)

Mosinska等人(2017)介紹了最近文獻(xiàn)中另一個(gè)有趣的損失函數(shù)，即拓?fù)涓兄獡p耗函數(shù)。這可以被認(rèn)為是感知損失的延伸，應(yīng)用于分割mask預(yù)測(cè)。Mosinska等人認(rèn)為，在圖像分割問(wèn)題中使用的像素級(jí)損失，如交叉熵?fù)p失，只依賴(lài)于局部測(cè)度，而不考慮拓?fù)浣Y(jié)構(gòu)的特征，如連接組件或孔的數(shù)量。因此，傳統(tǒng)的分割模型如U-Net往往會(huì)對(duì)薄的結(jié)構(gòu)進(jìn)行錯(cuò)誤的分類(lèi)。這是因?yàn)閷?duì)薄層像素的錯(cuò)誤分類(lèi)在像素?fù)p失方面的代價(jià)很低。作為對(duì)像素?fù)p失的改進(jìn)，他們建議引入一個(gè)懲罰項(xiàng)，該懲罰項(xiàng)基于VGG-19網(wǎng)絡(luò)生成的特征圖(類(lèi)似于感知損失)，以考慮拓?fù)湫畔ⅰ?/section>

(c)使用像素級(jí)丟失檢測(cè)神經(jīng)元膜后獲得的分割，(d)利用拓?fù)鋼p耗檢測(cè)細(xì)胞膜后得到的分割

這種方法在從衛(wèi)星圖像中進(jìn)行道路分割時(shí)也特別有用，例如，樹(shù)木的遮擋。

拓?fù)涓兄獡p失的數(shù)學(xué)表示

這里，在RHS上，l(m,n)表示VGG19網(wǎng)絡(luò)第n層的第m個(gè)feature map。Mu是衡量像素?fù)p失和拓?fù)鋼p失相對(duì)重要性的標(biāo)量。

對(duì)比損失/三元組損失

Triplet loss是由Florian Schroff等人在FaceNet(2015)中提出的，其目的是在有限的小數(shù)據(jù)集(如辦公室中的人臉識(shí)別系統(tǒng))上構(gòu)建一個(gè)人臉識(shí)別系統(tǒng)。傳統(tǒng)的CNN人臉識(shí)別架構(gòu)在這種情況下總是失敗。

Florian Schroff et al關(guān)注的事實(shí)是，在人臉識(shí)別的小樣本空間中，我們不僅要正確識(shí)別匹配的人臉，還要準(zhǔn)確區(qū)分兩個(gè)不同的人臉。為了解決這個(gè)問(wèn)題，F(xiàn)aceNet的論文引入了一個(gè)名為“Siamese網(wǎng)絡(luò)”的概念。在Siamese網(wǎng)絡(luò)中，我們通過(guò)網(wǎng)絡(luò)傳遞一個(gè)圖像A，并將其轉(zhuǎn)換成一個(gè)更小的表示，稱(chēng)為嵌入。現(xiàn)在，在不更新網(wǎng)絡(luò)的任何權(quán)值或偏差的情況下，我們對(duì)不同的圖像B重復(fù)這個(gè)過(guò)程并提取其嵌入。如果圖像B與圖像A中的人是同一個(gè)人，那么它們相應(yīng)的嵌入必須非常相似。如果它們屬于不同的人，那么它們相應(yīng)的嵌入一定是非常不同的。

重申一下，Siamese網(wǎng)絡(luò)的目標(biāo)是確保一個(gè)特定的人的圖像(錨點(diǎn))與同一個(gè)人的所有其他圖像(positive)的距離要比與任何其他人的圖像(negative)的距離更近。

為了訓(xùn)練這樣一個(gè)網(wǎng)絡(luò)，他們引入了三元組損失函數(shù)。考慮一個(gè)三元組：[anchor, positive, negative] 。三元組損失定義為：

1. 定義距離度量d=L2范數(shù)
2. 計(jì)算anchor圖像與positive圖像的嵌入距離=d(a, p)
3. 計(jì)算anchor圖像嵌入到negative圖像的距離=d(a, n)
4. 三元組損失= d(a, p) - d(a, n) + offset

三元組的數(shù)學(xué)表示

這里，?x^a^?-> anchor, x^p^?-> positive，x^n^?-> negative

注：為了快速收斂，必須選取正確的三元組進(jìn)行損失計(jì)算。FaceNet的論文討論了實(shí)現(xiàn)這一目標(biāo)的兩種方法——離線(xiàn)三元組生成和在線(xiàn)三元組生成。關(guān)于這個(gè)話(huà)題的詳細(xì)討論我們將留到以后討論。

GAN損失

由Ian Goodfellow等人(https://arxiv.org/abs/1406.2661)(2014)首先提出的生成式對(duì)抗網(wǎng)絡(luò)是目前最流行的圖像生成任務(wù)解決方案。GANs的靈感來(lái)自博弈論，并使用一個(gè)對(duì)抗的方案，使它可以用無(wú)監(jiān)督的方式訓(xùn)練。

GANs可以被看作是一個(gè)兩個(gè)人的游戲，我們讓生成器(比如產(chǎn)生一個(gè)超分辨率的圖像)與另一個(gè)網(wǎng)絡(luò) —— 判別器進(jìn)行較量。判別器的任務(wù)是評(píng)估一個(gè)圖像是來(lái)自原始數(shù)據(jù)集(真實(shí)圖像)還是來(lái)自另一個(gè)網(wǎng)絡(luò)(假圖像)。判別器模型像任何其他深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)一樣k可以被更新，生成器使用判別器作為損失函數(shù)，這意味著生成器的損失函數(shù)是隱式的，是在訓(xùn)練過(guò)程中學(xué)習(xí)的。對(duì)于典型的機(jī)器學(xué)習(xí)模型，收斂可以看作是在訓(xùn)練數(shù)據(jù)集上讓所選損失函數(shù)最小化。在GAN中，收斂標(biāo)志著雙人博弈的結(jié)束，是尋求生成器和判別器損失之間的平衡。對(duì)于GAN來(lái)說(shuō)，生成器和判別器是兩個(gè)參與者，它們輪流更新各自的模型權(quán)值。在這里，我們將總結(jié)一些用于GAN網(wǎng)絡(luò)的損失函數(shù)

1. Min-Max損失函數(shù)

然而，在實(shí)踐中發(fā)現(xiàn)，這種生成器的損失函數(shù)會(huì)飽和。也就是說(shuō)，如果它不能像判別器學(xué)習(xí)得那么快，判別器贏了，游戲就結(jié)束了，模型就不能得到有效的訓(xùn)練。

2. 不飽和的GAN損失

不飽和GAN損失是一種改進(jìn)的生成器損失，以克服飽和的問(wèn)題，使用了一個(gè)微妙的變化。該生成器不是最小化所生成圖像的負(fù)判別器概率的對(duì)數(shù)，而是最大化所生成圖像的判別器概率的對(duì)數(shù)。

3. 最小均方GAN損失

由Xudong Mao, et al (2016)提出，當(dāng)生成的圖像與真實(shí)圖像非常不同時(shí)，這種損失函數(shù)特別有用，因?yàn)榇藭r(shí)會(huì)導(dǎo)致梯度非常小或梯度消失，進(jìn)而導(dǎo)致模型很少或沒(méi)有更新。

4. Wasserstein GAN損失

Martin Arjovsky等人(2017)。他們觀(guān)察到，傳統(tǒng)GAN的目的是最小化真實(shí)圖像和生成圖像的實(shí)際概率分布和預(yù)測(cè)概率分布之間的距離，即所謂的Kullback-Leibler (KL)散度。相反，他們建議在Earth-Mover’s distance上對(duì)問(wèn)題進(jìn)行建模，該模型根據(jù)將一個(gè)分布轉(zhuǎn)換成另一個(gè)分布的成本來(lái)計(jì)算兩個(gè)概率分布之間的距離。使用Wasserstein損失的GAN涉及到將判別器的概念改變?yōu)橐粋€(gè)更改評(píng)估器，比生成器模型更新得更頻繁(例如，更新頻率是生成器模型的五倍)。評(píng)估器用實(shí)際的數(shù)字而不是預(yù)測(cè)概率來(lái)給圖像打分。它還要求模型的權(quán)重保持較小。該得分的計(jì)算使得真假圖像的得分之間的距離最大程度地分離。Wasserstein的損失的好處是，它提供了一個(gè)有用幾乎無(wú)處不在的梯度，允許模型的繼續(xù)訓(xùn)練。

5. 循環(huán)一致性損失

圖像到圖像的轉(zhuǎn)換是一個(gè)圖像合成的任務(wù)，需要對(duì)給定的圖像進(jìn)行有控制的修改，生成一個(gè)新的圖像。例如，把馬轉(zhuǎn)換成斑馬(或反過(guò)來(lái))，把繪畫(huà)轉(zhuǎn)換成照片(或反過(guò)來(lái))，等等。

juno - yan Zhu et al (2018)介紹。訓(xùn)練用于圖像到圖像轉(zhuǎn)換的模型通常需要大量成對(duì)的樣本數(shù)據(jù)集，這些樣本很難找到。CycleGAN是一種不需要配對(duì)實(shí)例的自動(dòng)訓(xùn)練技術(shù)。這些模型以一種無(wú)監(jiān)督的方式進(jìn)行訓(xùn)練，使用來(lái)自源和目標(biāo)域的圖像集合，這些圖像不需要以任何方式關(guān)聯(lián)。CycleGAN是GAN體系結(jié)構(gòu)的擴(kuò)展，它同時(shí)訓(xùn)練兩個(gè)生成器模型和兩個(gè)判別器模型。一個(gè)生成器從第一個(gè)域獲取圖像作為第二個(gè)域的輸入和輸出圖像，另一個(gè)生成器從第二個(gè)域獲取圖像作為輸入并生成第一個(gè)域的圖像。然后使用判別器模型來(lái)確定生成的圖像是否可信，并相應(yīng)地更新生成器模型。

循環(huán)一致性是指第一個(gè)生成器輸出的圖像可以用作第二個(gè)生成器的輸入，而第二個(gè)生成器的輸出應(yīng)該與原始圖像匹配。反之亦然。

CycleGAN通過(guò)增加額外的損失來(lái)測(cè)量第二個(gè)生成器生成的輸出與原始圖像之間的差異，從而趨向于循環(huán)一致性。該損失作為正則化項(xiàng)用于生成模型，指導(dǎo)新領(lǐng)域的圖像生成過(guò)程向圖像轉(zhuǎn)換方向發(fā)展。

原文鏈接：https://machinelearningmastery.com/loss-and-loss-functions-for-training-deep-learning-neural-networks/

下載1：OpenCV黑魔法

在「AI算法與圖像處理」公眾號(hào)后臺(tái)回復(fù)：OpenCV黑魔法，即可下載小編精心編寫(xiě)整理的計(jì)算機(jī)視覺(jué)趣味實(shí)戰(zhàn)教程


下載2 CVPR2020

在「AI算法與圖像處理」公眾號(hào)后臺(tái)回復(fù)：CVPR2020，即可下載1467篇CVPR?2020論文
個(gè)人微信（如果沒(méi)有備注不拉群！）
請(qǐng)注明：地區(qū)+學(xué)校/企業(yè)+研究方向+昵稱(chēng)

覺(jué)得有趣就點(diǎn)亮在看吧