綜述丨工業(yè)金屬平面材料表面缺陷檢測(cè)的研究進(jìn)展

摘要：

基于計(jì)算機(jī)視覺的金屬材料表面缺陷檢測(cè)是冶金工業(yè)領(lǐng)域的研究熱點(diǎn)。在金屬制造行業(yè)中，高標(biāo)準(zhǔn)的平面質(zhì)量要求自動(dòng)視覺檢查系統(tǒng)及其算法的性能必須不斷提高。本文基于對(duì)鋼，鋁，銅板和帶鋼的一些典型金屬平面材料產(chǎn)品的160多種出版物的綜述，試圖對(duì)二維和三維表面缺陷檢測(cè)技術(shù)進(jìn)行全面的綜述。根據(jù)算法的屬性和圖像特征，現(xiàn)有的二維方法分為四類：統(tǒng)計(jì)方法，光譜方法，模型方法和基于機(jī)器學(xué)習(xí)的方法。在三維數(shù)據(jù)采集的基礎(chǔ)上，三維技術(shù)分為立體視覺，光度立體，激光掃描儀和結(jié)構(gòu)化光測(cè)量方法。本文將分析和比較這些經(jīng)典算法和新興方法。最后，對(duì)視覺缺陷檢測(cè)的剩余挑戰(zhàn)和未來的研究趨勢(shì)進(jìn)行了討論和預(yù)測(cè)。

研究背景：

金屬平面材料（例如，鋼，鋁，銅板等）廣泛用于汽車制造，橋梁建筑，航空航天和其他支柱產(chǎn)業(yè)，為現(xiàn)代社會(huì)發(fā)展和生活改善做出了巨大貢獻(xiàn)。然而，在實(shí)際的工業(yè)生產(chǎn)過程中，加工設(shè)備的損壞或惡劣的工業(yè)環(huán)境不可避免地會(huì)導(dǎo)致金屬平面材料產(chǎn)品出現(xiàn)某些質(zhì)量問題。一些具有大面積或周期性特征的產(chǎn)品表面缺陷不僅影響后續(xù)生產(chǎn)，而且威脅終端產(chǎn)品的質(zhì)量，給制造企業(yè)帶來巨大的經(jīng)濟(jì)和聲譽(yù)損失。表面缺陷區(qū)域的數(shù)量，程度和分布是決定工業(yè)金屬平面材料質(zhì)量的重要因素?；谡駝?dòng)聲調(diào)制，無線傳感技術(shù)和其他不同原理的損傷檢測(cè)方法已經(jīng)進(jìn)行了很長(zhǎng)時(shí)間的研究。但是，基于計(jì)算機(jī)視覺的表面缺陷檢測(cè)方法具有成本低，操作簡(jiǎn)便，性能優(yōu)越等優(yōu)點(diǎn)，是在圖像表面發(fā)現(xiàn)和定位異常區(qū)域的最常用方法。硬件設(shè)施的發(fā)展以及人工智能技術(shù)的不斷發(fā)展，自動(dòng)視覺檢查（AVI）設(shè)備已逐漸成為工業(yè)制造商提高產(chǎn)品質(zhì)量和生產(chǎn)效率的標(biāo)準(zhǔn)配置。

金屬平面材料（例如鋼，鋁，銅板和帶材）具有相似的外觀特征，具有統(tǒng)一的質(zhì)量要求，可以概括為“精確的尺寸，均勻的表面和光潔的表面”，這意味著板材的厚度和寬度應(yīng)符合規(guī)定的精度要求，表面應(yīng)清潔且無鱗，裂紋，劃痕，輥痕和氣泡等。金屬平面材料表面的缺陷不僅會(huì)損壞平面產(chǎn)品的外觀，而且可能成為應(yīng)力集中的薄弱環(huán)節(jié)，成為破裂和腐蝕的根源。用于金屬平面材料表面缺陷的檢測(cè)設(shè)備應(yīng)具有兩個(gè)主要功能：缺陷檢測(cè)和缺陷分類。前者的目的是在工業(yè)生產(chǎn)過程中在線準(zhǔn)確地檢測(cè)和定位缺陷，而無需識(shí)別缺陷的類型，以便工業(yè)現(xiàn)場(chǎng)可以根據(jù)缺陷的程度和頻率調(diào)整相應(yīng)的連鑄/軋制設(shè)備，從而盡快控制相似缺陷的大量擴(kuò)散，并有效避免質(zhì)量問題造成的經(jīng)濟(jì)損失。同時(shí)，缺陷分類是識(shí)別和標(biāo)記檢測(cè)到的缺陷，以便最終產(chǎn)品的分級(jí)。分類精度直接由缺陷檢測(cè)的精度決定；因此，檢測(cè)系統(tǒng)的整體性能主要受到缺陷檢測(cè)過程中各種算法的準(zhǔn)確性，時(shí)間效率和魯棒性的限制，這是本文的重點(diǎn)。

金屬平面材料的在線表面缺陷檢測(cè)在生產(chǎn)過程中面臨以下嚴(yán)峻挑戰(zhàn)：

（1）高表面反射率

鋼，鋁，銅帶和其他極薄帶的表面光滑，并且它們的高表面反射率易于帶來較高的光影區(qū)域；然后，灰度值不一致的現(xiàn)象增加了錯(cuò)誤邊緣檢測(cè)的可能性。

（2）偽缺陷干擾

偽缺陷（例如水滴，水布，雨水線，水霧以及在層流冷卻過程中產(chǎn)生的其他實(shí)際缺陷）會(huì)導(dǎo)致檢測(cè)設(shè)備頻繁出現(xiàn)誤報(bào)。

（3）隨機(jī)彈性變形

由于連續(xù)的軋制設(shè)備振動(dòng)，軋制速度差，側(cè)導(dǎo)板異位，軋制速度波動(dòng)，類大氣湍流效應(yīng)等原因，隨機(jī)彈性變形會(huì)在電荷耦合器件（CCD）相機(jī)產(chǎn)生隨機(jī)圖像失真。

（4）海量圖像數(shù)據(jù)

現(xiàn)實(shí)世界中生產(chǎn)線的高速，卷材更換的快節(jié)奏以及熱軋機(jī)中對(duì)細(xì)微缺陷檢測(cè)的需求，使得圖像采集前端連續(xù)生成大量圖像數(shù)據(jù)，其峰值速度高達(dá)5.12 Gbps ，這要求檢測(cè)算法必須在檢測(cè)精度，計(jì)算和可靠性之間達(dá)到良好的平衡。

在不同的工藝中，不同類型的工業(yè)設(shè)備的工藝操作使表面紋理有很大的差異，相應(yīng)的金屬板和帶材也具有不同的檢測(cè)難度。下圖列出了金屬平面材料的三個(gè)典型表面圖像。左側(cè)是無缺陷的圖像，右側(cè)顯示了幾個(gè)典型的缺陷或偽缺陷圖像，例如鱗片，渣痕，裂紋，劃痕，毛刺和連鑄坯表面上的照明不均勻；在熱軋帶鋼表面上有輥痕，劃痕，夾渣，夾雜物，孔洞和氧化皮；冷軋帶鋼表面的酸洗，腐蝕，波紋，污點(diǎn)，凹坑和孔。這些圖像都是使用線性陣列掃描CCD相機(jī)從現(xiàn)實(shí)世界的生產(chǎn)線上獲取的。

研究?jī)?nèi)容：

以帶狀表面缺陷檢測(cè)系統(tǒng)為例，其硬件框架主要由照明設(shè)備，CCD相機(jī)，圖像處理計(jì)算機(jī)和服務(wù)器組成，其照明設(shè)備采用特殊的紅外光源陣列。CCD線掃描攝像機(jī)組水平排列在帶鋼生產(chǎn)線上，水平和垂直可視范圍相互重疊，以確保沒有漏檢。CCD攝像機(jī)收集的圖像通過光纖傳輸?shù)綀D像處理計(jì)算機(jī)組，以進(jìn)行圖像處理和圖案識(shí)別。然后，將結(jié)果與生產(chǎn)線的相關(guān)信息一起發(fā)送到服務(wù)器數(shù)據(jù)庫進(jìn)行進(jìn)一步處理，并生成各種現(xiàn)場(chǎng)生產(chǎn)信息統(tǒng)計(jì)報(bào)告。用戶可以根據(jù)這些報(bào)告評(píng)估鋼卷的質(zhì)量等級(jí)，或者分析生產(chǎn)線異常的原因，從而實(shí)現(xiàn)對(duì)生產(chǎn)線的實(shí)時(shí)監(jiān)控。下圖顯示了典型的工業(yè)帶材表面缺陷檢測(cè)系統(tǒng)。

在表面缺陷檢測(cè)任務(wù)中，我們通常會(huì)根據(jù)統(tǒng)計(jì)結(jié)果對(duì)相關(guān)方法進(jìn)行定量評(píng)估，可將其分為四類：真陽性（TP）表示檢測(cè)到的實(shí)際缺陷為缺陷，真陰性（TN）表示檢測(cè)到的缺陷。實(shí)際缺陷被錯(cuò)誤地檢測(cè)為背景，假陽性（FP）表示錯(cuò)誤地將實(shí)際背景檢測(cè)為缺陷，而假陰性（FN）表示將實(shí)際背景檢測(cè)為背景。顯然，在理想情況下，TP和FN越大，檢測(cè)效果越好，而TN和FP越大，檢測(cè)效果越差。因此，九個(gè)指標(biāo)定義如下：

其中，G均值以組合的方式衡量這兩類的準(zhǔn)確性，而G均值越大意味著TPR和TNR越高，這也是缺陷檢測(cè)應(yīng)用程序的要求。另一方面，F(xiàn)-measure根據(jù)準(zhǔn)確性和召回率評(píng)估缺陷檢測(cè)的總體性能。

作者全面回顧了現(xiàn)有的金屬平面材料表面缺陷檢測(cè)方法的二維視覺技術(shù)和模型，并進(jìn)行了討論和展望，檢測(cè)方法分類的總體結(jié)構(gòu)。值得注意的是，近年來深度學(xué)習(xí)的快速發(fā)展改變了這種模式。基于深度學(xué)習(xí)的缺陷檢測(cè)方法越來越多地應(yīng)用于金屬平面材料。因此，本文將金屬平面材料的表面缺陷檢測(cè)方法分為四類：傳統(tǒng)的基于統(tǒng)計(jì)的方法，基于光譜的方法，基于模型的方法和新興的基于機(jī)器學(xué)習(xí)的方法。

方法1 基于統(tǒng)計(jì)的方法

從統(tǒng)計(jì)方法的角度來看，圖像紋理被視為隨機(jī)現(xiàn)象。統(tǒng)計(jì)方法通過測(cè)量像素空間分布的統(tǒng)計(jì)特性來研究像素強(qiáng)度的規(guī)則和周期性分布，以檢測(cè)金屬平面材料表面的缺陷。以下是對(duì)五個(gè)代表性統(tǒng)計(jì)方法的簡(jiǎn)要介紹，下表給出了這五個(gè)類別的幾種典型方法的比較。

其中，邊緣檢測(cè)是一種檢測(cè)被測(cè)圖像中的灰度或結(jié)構(gòu)突變的方法。缺陷區(qū)域和背景之間的灰度級(jí)差異導(dǎo)致邊界處出現(xiàn)明顯的邊緣，可用于檢測(cè)金屬平面材料的表面缺陷。由于圖像邊緣像素的不連續(xù)性，研究人員通常采用局部圖像微分技術(shù)來獲取邊緣檢測(cè)算子，金屬平面材料表面缺陷的常用邊緣檢測(cè)模板包括Prewitt，Sobel 和Canny 運(yùn)算符，下圖顯示了在相同缺陷樣本上這些原始運(yùn)算符的檢測(cè)結(jié)果。

這些模板也有自己的缺點(diǎn)，許多研究人員對(duì)其進(jìn)行了優(yōu)化，以獲得更好的結(jié)果。下表列出了傳統(tǒng)版本和優(yōu)化版本，并簡(jiǎn)要比較了這些運(yùn)算符的優(yōu)缺點(diǎn)。

方法2 基于頻譜的方法

在光照變化和偽缺陷干擾的情況下，許多統(tǒng)計(jì)方法都不可靠。幸運(yùn)的是，研究人員發(fā)現(xiàn)圖像在變換域中更有可能被分離出具有不同特征的信息，并且有可能找到比像素域中的直接處理方法更好的缺陷檢測(cè)方法。下表總結(jié)了一些轉(zhuǎn)換域方法，以下是這些類別的幾種典型方法的比較。

其中，小波變換具有更強(qiáng)的自適應(yīng)能力，非常符合人的視覺特征，它不僅可以定位時(shí)頻窗口，而且可以根據(jù)窗口中心頻率的變化自動(dòng)修改窗口大小。下圖顯示了二維圖像的二階小波分解的示意圖。

該二維圖像從標(biāo)度j +1分解為標(biāo)度J，然后分解為標(biāo)度J-1。小波分解的結(jié)果是將圖像劃分為子圖像的集合。為了有效地從信號(hào)中提取信息并分析函數(shù)或信號(hào)，比例變換和移位運(yùn)算已成為小波變換的顯著優(yōu)勢(shì)。在實(shí)際的生產(chǎn)線中，由于諸如水滴，氧化物水垢，照明不均勻或不利環(huán)境等缺陷，金屬板和帶材的表面缺陷的檢測(cè)越來越具有挑戰(zhàn)性。

方法3 基于模型的方法

除了基于統(tǒng)計(jì)和頻譜的方法外，還有一種基于模型的方法?；谀Ｐ偷姆椒ㄍㄟ^通過參數(shù)學(xué)習(xí)增強(qiáng)的特殊結(jié)構(gòu)模型將圖像塊的原始紋理分布投影到低維分布，從而更好地檢測(cè)各種缺陷。下表給出了這些類別的幾種典型方法的比較。

方法4 基于機(jī)器學(xué)習(xí)的方法

隨著人工智能技術(shù)的飛速發(fā)展，廣泛應(yīng)用的機(jī)器學(xué)習(xí)在各個(gè)領(lǐng)域都取得了良好的效果。下表列出了幾種典型方法。

機(jī)器學(xué)習(xí)的本質(zhì)是分析和學(xué)習(xí)數(shù)據(jù)（特征），然后做出準(zhǔn)確的決策或預(yù)測(cè)。2005年，Liu等人使用雙層前饋神經(jīng)網(wǎng)絡(luò)將測(cè)試圖像的像素點(diǎn)分類為有缺陷的和無缺陷的。該任務(wù)的基本思想實(shí)際上是根據(jù)是否存在缺陷二分，因此仍可以歸類為缺陷檢測(cè)。卷積神經(jīng)網(wǎng)絡(luò)（CNN）是當(dāng)前基于監(jiān)督方式最常用的深度學(xué)習(xí)網(wǎng)絡(luò)。Chen等進(jìn)行了裂縫檢測(cè) 基于卷積神經(jīng)網(wǎng)絡(luò)（CNN）和樸素貝葉斯數(shù)據(jù)融合方案的NB-CNN。考慮到缺陷形狀的多樣性，Zhou等改進(jìn)了快速R-CNN，選擇了K-mean算法，根據(jù)“地面真相”的大小生成了錨框的長(zhǎng)寬比，并將特征矩陣與不同的接收域融合在一起。該方法具有較好的微觀缺陷檢測(cè)能力，在光線變化時(shí)仍能準(zhǔn)確地識(shí)別出缺陷類型，易于移植到實(shí)際工業(yè)應(yīng)用中。隨后，隨著支持向量機(jī)（SVM）的發(fā)展和改進(jìn)，這種值得稱贊的支持?jǐn)?shù)據(jù)二進(jìn)制分類的廣義線性分類器通常被廣泛用于區(qū)分有缺陷和無缺陷區(qū)域。Ghorai等認(rèn)為分類器在缺陷檢測(cè)中的性能在很大程度上取決于特征和分類器的組合。因此，他們對(duì)不同的特征集（Haar，DB2，DB4）和不同的分類器（SVM和向量值正則化核函數(shù)逼近（VVRKFA））進(jìn)行置換和組合，并觀察缺陷檢測(cè)結(jié)果。實(shí)驗(yàn)表明，具有第一級(jí)Haar特征的VVRKFA的性能在所有特征分類器組合中排名第一。與上述缺陷檢測(cè)方法不同，He和Xu等顛倒了ROI提取和對(duì)象分類的一般順序，他們提出了一個(gè)新的對(duì)象檢測(cè)框架：分類優(yōu)先級(jí)網(wǎng)絡(luò)（CPN）。首先通過多組卷積神經(jīng)網(wǎng)絡(luò)（MG-CNN）對(duì)測(cè)試圖像進(jìn)行分類，然后輸出更多的稀疏和合理的特征組。根據(jù)分類結(jié)果，CPN從可能包含缺陷的特征組中退回了缺陷邊界框，并分別在鋼板和鋼帶上進(jìn)行了測(cè)試，檢出率分別為94％和96％。然而，在現(xiàn)實(shí)世界的工業(yè)生產(chǎn)線中，收集和標(biāo)記大量圖像樣本是不切實(shí)際的，并且所得圖像樣本更加未被標(biāo)記。為了用少量的訓(xùn)練樣本獲得滿意的結(jié)果，數(shù)據(jù)擴(kuò)充以及遷移學(xué)習(xí)是訓(xùn)練網(wǎng)絡(luò)的關(guān)鍵要素。例如，Yun等使用條件卷積變分自編碼器（CCVAE）作為數(shù)據(jù)增強(qiáng)方法，并通過使用CCVAE學(xué)習(xí)給定缺陷數(shù)據(jù)的分布來生成各種缺陷圖像。實(shí)驗(yàn)表明，在使用CCVAE進(jìn)行數(shù)據(jù)增強(qiáng)的情況下，準(zhǔn)確性可以從96.27％提高到99.69％，F(xiàn)值也可以從96.27％提高到99.71％。通過應(yīng)用轉(zhuǎn)移學(xué)習(xí)，Neuhauser等人使用在ImageNet上預(yù)訓(xùn)練的網(wǎng)絡(luò)權(quán)重作為學(xué)習(xí)過程的初始權(quán)重；他們利用轉(zhuǎn)移學(xué)習(xí)來加快培訓(xùn)過程，并提高檢測(cè)擠壓鋁材缺陷的性能。遷移學(xué)習(xí)的基本前提是可以擴(kuò)展網(wǎng)絡(luò)的特征提取功能。如果源域和目標(biāo)域之間的相似度不夠，則結(jié)果將不理想。

結(jié)論：

從簡(jiǎn)單的二進(jìn)制圖像處理到高分辨率的多灰度圖像處理，再到從一般的2D信息處理到3D視覺處理，機(jī)器視覺作為一門新興且發(fā)展迅速的學(xué)科已從實(shí)驗(yàn)室研究轉(zhuǎn)移到了實(shí)際應(yīng)用。與以往不同，本文重點(diǎn)研究質(zhì)量控制要求相似的平面金屬材料，從二維和三維方面全面總結(jié)缺陷檢測(cè)方法。本文總結(jié)了近30年來自動(dòng)檢測(cè)金屬板和帶材表面視覺缺陷的研究成果，其中大多數(shù)是近10年發(fā)表的。介紹并總結(jié)了工業(yè)金屬平面材料表面缺陷檢測(cè)的學(xué)習(xí)方法，理論探討和應(yīng)用發(fā)展?；谏鲜鑫墨I(xiàn)的啟發(fā)和作者在開發(fā)表面缺陷檢測(cè)系統(tǒng)中的經(jīng)驗(yàn)，總結(jié)出該領(lǐng)域仍存在的挑戰(zhàn)和研究建議。

（1）與其他基于計(jì)算機(jī)視覺的表面缺陷檢測(cè)任務(wù)相比，在現(xiàn)實(shí)世界中的金屬平面材料工業(yè)制造中，除了檢測(cè)精度和計(jì)算效率之間的平衡外，更重要的是確保檢測(cè)算法的穩(wěn)定性，尤其是對(duì)環(huán)境變化的穩(wěn)健性。此外，還必須具有檢測(cè)缺陷多樣性的能力，尤其是沒有邊緣特征的變形缺陷。

（2）算法的快速性和通用性是現(xiàn)實(shí)AVI系統(tǒng)應(yīng)用中的兩個(gè)關(guān)鍵問題。至于算法本身，與復(fù)雜的學(xué)習(xí)網(wǎng)絡(luò)相比，在線表面缺陷檢測(cè)作為一種無監(jiān)督的實(shí)時(shí)檢測(cè)任務(wù)，更傾向于使用輕量級(jí)算法，而機(jī)器學(xué)習(xí)或深度網(wǎng)絡(luò)則更適合于處理復(fù)雜的網(wǎng)絡(luò)。具有豐富數(shù)據(jù)集的多類分類問題（即缺陷分類）。就硬件而言，邊緣計(jì)算的概念可以用于終端加速。例如，專用集成電路（ASIC），類似于現(xiàn)場(chǎng)可編程門陣列 （FPGA），可以放置在圖像采集的前端以實(shí)時(shí)完成原始數(shù)據(jù)的預(yù)處理，以防止復(fù)雜的信息影響后續(xù)處理。

（3）噪聲平滑和邊緣增強(qiáng)是缺陷檢測(cè)的重要預(yù)處理操作，應(yīng)盡可能靠近成像的傳感器側(cè)進(jìn)行布置。此外，檢測(cè)系統(tǒng)最有效的去噪方法是通過一些可行的工程措施使圖像盡可能清晰。例如，應(yīng)在目標(biāo)的透鏡側(cè)和表面?zhèn)劝惭b鼓風(fēng)機(jī)或離子氣槍，以去除惡劣的工業(yè)環(huán)境在光學(xué)表面上產(chǎn)生的水滴，灰塵，纖維等，并提供光源應(yīng)當(dāng)在目標(biāo)側(cè)施加均勻，適度的亮度，以克服白天和晚上照明變化引起的光線不均勻的影響。另外，一些經(jīng)濟(jì)有效的冷卻配置措施和成像設(shè)備的安全保護(hù)措施對(duì)于避免由高溫和機(jī)械振動(dòng)等惡劣環(huán)境引起的成像退化也具有重要意義。

（4）最新的機(jī)器學(xué)習(xí)技術(shù)提供了一種新方法來處理此數(shù)據(jù)不平衡問題。例如，GAN在生成缺陷樣本方面取得了巨大的成功。為避免GAN中的可解釋性差的問題，可以將其與強(qiáng)化學(xué)習(xí)聯(lián)系起來，并且可以將GAN用于逆向強(qiáng)化學(xué)習(xí)和模擬學(xué)習(xí)，以提高強(qiáng)化學(xué)習(xí)的效率，圖像和文本的轉(zhuǎn)換能力以及機(jī)器的理解能力。由于研究人員在不同的數(shù)據(jù)集上使用不同的方法進(jìn)行實(shí)驗(yàn)，因此很難公平地比較不同技術(shù)的檢測(cè)性能。受生物識(shí)別領(lǐng)域研究的啟發(fā)，構(gòu)建一個(gè)豐富多樣的金屬平面材料表面缺陷數(shù)據(jù)庫將是該領(lǐng)域的一項(xiàng)長(zhǎng)期工作。

（5）金屬平面材料表面缺陷的自動(dòng)視覺檢測(cè)應(yīng)努力適應(yīng)世界工業(yè)競(jìng)爭(zhēng)格局的新調(diào)整，搶占未來工業(yè)競(jìng)爭(zhēng)的制高點(diǎn)。應(yīng)努力促進(jìn)多種技術(shù)的深度集成和有機(jī)協(xié)作，研究金屬平面材料的表面缺陷檢測(cè)算法和方法。