【論文解讀】通過知識蒸餾促進輕量級深度估計

摘要

采用大型復雜的神經(jīng)網(wǎng)絡實現(xiàn)深度估計的高級性能。雖然性能仍在不斷提高，但作者認為深度估計必須是準確和高效的。這是現(xiàn)實應用的初步要求。但是，快速深度估計會在模型容量和精度之間產(chǎn)生折衷，從而降低模型的性能。在這篇論文中，作者嘗試用一個輕量級的網(wǎng)絡來實現(xiàn)高度精確的深度估計。為此，作者首先介紹了一種可以實時估計深度圖的緊湊網(wǎng)絡。然后，作者在技術上展示了兩種補充和必要的策略，以提高輕量級網(wǎng)絡的性能。由于真實場景的數(shù)量是無限的，首先是輔助數(shù)據(jù)的使用，增加了訓練數(shù)據(jù)的多樣性。二是運用知識精餾進一步提升績效。通過廣泛和嚴格的實驗，作者表明，作者的方法在推理精度，計算效率和泛化方面優(yōu)于以往的輕量級方法。與只有1%參數(shù)的最先進的方法相比，作者可以實現(xiàn)相當?shù)男阅埽硪环矫妫髡叩姆椒ū绕渌p量級方法的性能要好得多。

作者通過實驗證明：

本文介紹的光網(wǎng)絡可以實時估計深度圖。它在推理精度、計算效率和泛化性能方面優(yōu)于基準方法。

對于深度估計，有效的知識提煉的關鍵是采用良好的誤差度量。作者證明了應用幾何約束有助于更好的知識轉(zhuǎn)移。

這兩種策略，即使用輔助數(shù)據(jù)和知識精餾以一種互補的方式工作。它們的結合給作者帶來了一個高精度和計算效率高的深度估計網(wǎng)絡。

框架結構

提出的網(wǎng)絡圖。其核心組件是四個特征融合與壓縮層(FFC)。FFC層由一個信道的關注層和一個卷積層組成，這樣它可以自動將更多的權值歸到更重要的特征上，然后將它們?nèi)诤系缴倭康男诺乐小?br>

實驗結果

(a)有無額外訓練數(shù)據(jù)的教師和學生網(wǎng)的表現(xiàn)。注意，學員網(wǎng)是經(jīng)過培訓而沒有知識的提煉的。(b)學生網(wǎng)與知識精餾的表現(xiàn)。由此可見，即使給定相同的教師網(wǎng)，作者也可以通過額外的訓練數(shù)據(jù)獲得顯著的準確性提高。

對不同輕型深度估算方法進行定性比較。

基于TUM數(shù)據(jù)集的5個序列預測點云的定性比較。

結論

本文從以下三個方面對單目深度估計進行了全面回顧:1)推斷精度，2)計算效率，3)概化性。作者指出主要有兩大挑戰(zhàn)。首先是模型準確性和模型容量之間的權衡，其次是對未知場景的泛化性能較差。作者的方法首先引入了一個緊湊的網(wǎng)絡，可以實時估計深度地圖。然后，作者的實證和定量表明，使用輔助訓練數(shù)據(jù)是必要的改進輕量級網(wǎng)絡。場景多樣性的增加不僅可以提高網(wǎng)絡的準確性和泛化程度，而且是后續(xù)知識提煉過程中所需要的。作者運用知識蒸餾技術，利用輔助數(shù)據(jù)從訓練有素的教師網(wǎng)中提升出輕量級網(wǎng)。作者利用額外的幾何約束(梯度和法線)來精確測量老師和學生之間的估計的差異。因此，作者的方法與在只有1%參數(shù)的大型網(wǎng)絡上建立的方法相比具有相當?shù)男阅埽⒃诤艽蟪潭壬蟽?yōu)于其他輕量級方法。在未來，作者將進一步改進作者的方法與更多的現(xiàn)實場景，以發(fā)展一個更通用的網(wǎng)絡深度估計。

往期精彩回顧




適合初學者入門人工智能的路線及資料下載
機器學習及深度學習筆記等資料打印
機器學習在線手冊
深度學習筆記專輯
《統(tǒng)計學習方法》的代碼復現(xiàn)專輯
AI基礎下載
機器學習的數(shù)學基礎專輯
溫州大學《機器學習課程》視頻
本站qq群851320808，加入微信群請掃碼：