<kbd id="afajh"><form id="afajh"></form></kbd>
<strong id="afajh"><dl id="afajh"></dl></strong>
    <del id="afajh"><form id="afajh"></form></del>
        1. <th id="afajh"><progress id="afajh"></progress></th>
          <b id="afajh"><abbr id="afajh"></abbr></b>
          <th id="afajh"><progress id="afajh"></progress></th>

          一個雷達和攝像頭融合的3D目標檢測方法CenterFusion

          共 1984字,需瀏覽 4分鐘

           ·

          2021-07-28 00:12

          點擊上方小白學(xué)視覺”,選擇加"星標"或“置頂

          重磅干貨,第一時間送達

          本文轉(zhuǎn)自:計算機視覺工坊

          以前提到過此文(在想法中),WACV‘2021錄?。骸癈enterFusion: Center-based Radar and Camera Fusion for 3D Object Detection“,作者來自田納西大學(xué)。
          摘要這是一個middle fusion方法,CenterFusion,它先通過一個center point檢測法得到圖像的目標,然后和雷達檢測結(jié)果做數(shù)據(jù)相關(guān),采用的是一個frustum-based方法。最后關(guān)聯(lián)的目標檢測產(chǎn)生基于雷達的特征圖補充圖像特征,這樣回歸目標的深度、旋轉(zhuǎn)角和深度。
          作者提供了代碼:https://github.com/mrnabati/CenterFusion
          網(wǎng)絡(luò)架構(gòu)如圖所示:跟摘要說的那樣,細節(jié)見下面模塊分析。
          首先,需要搞清楚雷達信號檢測的是徑向深度和目標實際速度的不同,如圖:
          作者采用CenterNet方法,無錨單目的目標檢測方法。其中keypoint的heatmap定義為:
          采用一個卷積encoder-decoder網(wǎng)絡(luò)預(yù)測Y?;诖?,回歸3D目標的深度、尺寸和朝向。其訓(xùn)練分類損失,即focal loss:
          CenterFusion利用CenterNet先得到一個初步檢測,然后修正的DLA(deep layer aggregation)網(wǎng)絡(luò)作為主干,在primary regression head中預(yù)測初步的3D目標信息,其中構(gòu)成包括一個3X3的卷積層和一個1X1的卷積層。
          Frustum association是關(guān)鍵融合雷達和圖像的機制。用圖像2D框和其深度+大小的估計構(gòu)建一個3D RoI frustum,如圖所示:
          如果有多個雷達檢測點在這個RoI,直接取距離最近的一個。注意這里提到一個scaling factor可增大frustum尺寸,以便包容深度估計的誤差。
          另外,目標高度的不準確,作者采用Pillar expansion對雷達點云做預(yù)處理。如圖所示:第一行是雷達點云擴大成3D pillar的顯示,第二行是直接把pillars和圖像匹配的結(jié)果,相關(guān)較弱。第三行是frustum相關(guān),減少了上面的深度值重疊,也防止背景目標(如大樓)錯分類成前景。
          圖像和雷達的數(shù)據(jù)相關(guān)之后,可以提取雷達目標特征,深度和速度等。
          如果兩個目標有重疊的heatmap區(qū)域,按距離取最近的。
          之后,這些特征進入secondary regression head,其結(jié)構(gòu)包括3個3X3卷積層和一個1X1卷積層。最后結(jié)果需要經(jīng)過一個box decoder得到。
          訓(xùn)練中regression head的損失采用SmoothL1 loss,center point heatmap采用focal loss,而attributes regression head基于Binary Cross Entropy (BCE) loss。
          看一下結(jié)果:
          性能比較表
          直觀結(jié)果比較如下:1-2行CenterFusion,3-4行CenterNet。
          雷達點云綠色,目標框GT紅色,目標預(yù)測速度藍色箭頭。

          下載1:OpenCV-Contrib擴展模塊中文版教程
          在「小白學(xué)視覺」公眾號后臺回復(fù):擴展模塊中文教程,即可下載全網(wǎng)第一份OpenCV擴展模塊教程中文版,涵蓋擴展模塊安裝、SFM算法、立體視覺、目標跟蹤、生物視覺、超分辨率處理等二十多章內(nèi)容。

          下載2:Python視覺實戰(zhàn)項目52講
          小白學(xué)視覺公眾號后臺回復(fù):Python視覺實戰(zhàn)項目,即可下載包括圖像分割、口罩檢測、車道線檢測、車輛計數(shù)、添加眼線、車牌識別、字符識別、情緒檢測、文本內(nèi)容提取、面部識別等31個視覺實戰(zhàn)項目,助力快速學(xué)校計算機視覺。

          下載3:OpenCV實戰(zhàn)項目20講
          小白學(xué)視覺公眾號后臺回復(fù):OpenCV實戰(zhàn)項目20講即可下載含有20個基于OpenCV實現(xiàn)20個實戰(zhàn)項目,實現(xiàn)OpenCV學(xué)習(xí)進階。

          交流群


          歡迎加入公眾號讀者群一起和同行交流,目前有SLAM、三維視覺、傳感器、自動駕駛、計算攝影、檢測、分割、識別、醫(yī)學(xué)影像、GAN、算法競賽等微信群(以后會逐漸細分),請掃描下面微信號加群,備注:”昵稱+學(xué)校/公司+研究方向“,例如:”張三 + 上海交大 + 視覺SLAM“。請按照格式備注,否則不予通過。添加成功后會根據(jù)研究方向邀請進入相關(guān)微信群。請勿在群內(nèi)發(fā)送廣告,否則會請出群,謝謝理解~


          瀏覽 51
          點贊
          評論
          收藏
          分享

          手機掃一掃分享

          分享
          舉報
          評論
          圖片
          表情
          推薦
          點贊
          評論
          收藏
          分享

          手機掃一掃分享

          分享
          舉報
          <kbd id="afajh"><form id="afajh"></form></kbd>
          <strong id="afajh"><dl id="afajh"></dl></strong>
            <del id="afajh"><form id="afajh"></form></del>
                1. <th id="afajh"><progress id="afajh"></progress></th>
                  <b id="afajh"><abbr id="afajh"></abbr></b>
                  <th id="afajh"><progress id="afajh"></progress></th>
                  人操人人操 | 韩国一区二区三区精品 | 人人草AV | 一区二区三区未删减 | 欧美操逼在线观看 |