如何通俗理解協(xié)方差、相關(guān)系數(shù)？
共 3032字，需瀏覽 7分鐘
·
2024-04-17 10:04
點擊上方“小白學(xué)視覺”，選擇加"星標(biāo)"或“置頂”
重磅干貨，第一時間送達(dá)
Part1 方差
之前介紹了方差是用來刻畫數(shù)據(jù)波動性的統(tǒng)計量，那么協(xié)方差就是描述兩個變量之間的變動關(guān)系。通俗地理解為：兩個變量是同向變化？還是反向變化？同向或反向程度有多少？
X變大，Y也變大，說明兩個變量是同向變化的，這時協(xié)方差就是正的。X變大，Y變小，說明兩個變量是反向變化的，這時協(xié)方差就是負(fù)的。并且從數(shù)值大小來看，協(xié)方差的絕對值越大，則兩個變量同向或反向的程度也越大，即有較強的相關(guān)。
公式的計算很簡單，每個X與其均值之差乘以Y與其均值之差得到一個乘積，再將其都加起來求個均值即可。比如有兩個變量X,Y，觀察7個樣本，畫出他們的變化情況，并且很明顯是同向變化的。
可以發(fā)現(xiàn)每一時刻的值與的值的正負(fù)號相同（比如t1時刻，他們同為正，t2時刻他們同為負(fù)）：
于是當(dāng)他們同向變化時，的值與的值乘積為正。這樣，當(dāng)你把7個時刻的乘積加在一起，求平均后也就是正數(shù)了。如果反向運動：
很明顯，的值與的值的正負(fù)號相反，于是其乘積就是負(fù)值，計算出來的協(xié)方差也就是負(fù)數(shù)了。上面說的兩種情況比較特殊，很多時候XY兩個變量的變動沒有規(guī)律，比如：
這種情況下某些的值與的值乘積為正，某些的值與的值乘積為負(fù)。加在一起后，其中的一些正負(fù)項就會抵消掉，最后平均得出的值就是協(xié)方差，通過協(xié)方差的數(shù)值大小，就可以判斷這兩個變量同向或反向的程度了。所以，在7個樣本中，與的乘積為正的越多，說明同向變化的次數(shù)越多，亦即同向程度越高，反之亦然。總而言之，
若協(xié)方差為正，則X和Y同向變化；反之協(xié)方差為負(fù)，則反向變化；協(xié)方差絕對值越大表示同向或反向的程度越深。
其實方差也是一種特殊的協(xié)方差，只不過是X和X之間的協(xié)方差。
Part2 相關(guān)系數(shù)
相關(guān)系數(shù)的公式為：其實就是用X、Y的協(xié)方差除以X和Y的標(biāo)準(zhǔn)差。所以相關(guān)系數(shù)可以看成剔除了兩個變量單位的影響、標(biāo)準(zhǔn)化后的特殊協(xié)方差。它可以反映兩個變量變化是同向還是反向的，同向為正，反向為負(fù)。并且它又是標(biāo)準(zhǔn)化后的協(xié)方差，則它出現(xiàn)最重要的目的來了，就是消除兩個變量單位的影響，使得不同變量的相關(guān)系數(shù)之間具有可比性。比如下面兩種情況，關(guān)注一下縱軸的刻度：
很容易可以看出兩種情況下X和Y都是同向變化的，并且它們變化的方式都大致相同，在特定的樣本點同為正或同為負(fù)，那么它們理應(yīng)具有相同的相關(guān)關(guān)系。于是可以計算一下他們的協(xié)方差：
第一種情況下：[(100-0)×(70-0)+(-100-0)×(-70-0)+(-200-0)×(-200-0)…]÷7≈15428.57
第二種情況下：[(0.01-0)×(70-0)+(-0.01-0)×(-70-0)+(-0.02-0)×(-200-0)…]÷7≈1.542857
協(xié)方差差了一萬倍，只能看出兩種情況都是正相關(guān)的，但是我們能說第一種情況就相關(guān)性更強嗎？在上面兩種情況中，雖然X和Y的變化方向都相同，但是每次變化的幅度不相同，主要原因是單位的不一致引起的。所以，為了能準(zhǔn)確比較兩個變量的相關(guān)程度，我們就要把變化幅度對協(xié)方差的影響中剔除掉，也就是要去掉單位的影響，于是就要使用相關(guān)系數(shù)。那么如何剔除變量變化幅度的影響呢？很自然的就應(yīng)該使用前面提到的方差和標(biāo)準(zhǔn)差了！相關(guān)系數(shù)是協(xié)方差除以標(biāo)準(zhǔn)差，當(dāng)X或Y的波動變大的時候，它們的協(xié)方差會變大，標(biāo)準(zhǔn)差也會變大，這樣相關(guān)系數(shù)的分子分母都變大，相互抵消，變小時也亦然。于是相關(guān)系數(shù)不像協(xié)方差一樣可以在實數(shù)域上取值，它只能在＋1到－1之間變化，具體為什么是+1和-1，可以自行Google柯西-斯瓦茨不等式。總之，對于兩個變量X、Y，
當(dāng)他們的相關(guān)系數(shù)為1時，說明兩個變量線性相關(guān)程度最大，兩個變量存在線性關(guān)系。隨著相關(guān)系數(shù)減小，兩個變量相關(guān)程度也變小。當(dāng)相關(guān)系數(shù)為0時，兩個變量的線性無關(guān)，但要注意，無關(guān)不一定獨立。當(dāng)相關(guān)系數(shù)繼續(xù)變小，小于0時，兩個變量開始出現(xiàn)反向相關(guān)。當(dāng)相關(guān)系數(shù)為－1時，說明兩個變量線性相關(guān)程度也最強，不過是相反的線性相關(guān)，反相變化。
讓我們再回到前面X和Y的例子，用相關(guān)系數(shù)來衡量相關(guān)程度：
第一種情況：
X的標(biāo)準(zhǔn)差為
Y的標(biāo)準(zhǔn)差為
于是相關(guān)系數(shù)為
說明第一種情況下，X和Y有極強的相關(guān)性，幾乎是線性相關(guān)。
第二種情況：
X的標(biāo)準(zhǔn)差為
Y的標(biāo)準(zhǔn)差為
于是相關(guān)系數(shù)為
在第二種情況下，X的標(biāo)準(zhǔn)差較第一種小了10000倍，即變化幅度小了，但是并不改變X和Y線性高度相關(guān)的事實。兩種情況的相關(guān)系數(shù)相等，X和Y具有相同的相關(guān)性，故而使用相關(guān)系數(shù)來衡量和比較相關(guān)性，要比協(xié)方差合適很多。在第二種情況下，X的標(biāo)準(zhǔn)差較第一種小了10000倍，即變化幅度小了，但是并不改變X和Y線性高度相關(guān)的事實。
兩種情況的相關(guān)系數(shù)相等，X和Y具有相同的相關(guān)性，故而使用相關(guān)系數(shù)來衡量和比較相關(guān)性，要比協(xié)方差合適很多。
下載1：OpenCV-Contrib擴展模塊中文版教程
在「小白學(xué)視覺」公眾號后臺回復(fù)：擴展模塊中文教程，即可下載全網(wǎng)第一份OpenCV擴展模塊教程中文版，涵蓋擴展模塊安裝、SFM算法、立體視覺、目標(biāo)跟蹤、生物視覺、超分辨率處理等二十多章內(nèi)容。
下載2：Python視覺實戰(zhàn)項目52講
在「小白學(xué)視覺」公眾號后臺回復(fù)：Python視覺實戰(zhàn)項目，即可下載包括圖像分割、口罩檢測、車道線檢測、車輛計數(shù)、添加眼線、車牌識別、字符識別、情緒檢測、文本內(nèi)容提取、面部識別等31個視覺實戰(zhàn)項目，助力快速學(xué)校計算機視覺。
下載3：OpenCV實戰(zhàn)項目20講
在「小白學(xué)視覺」公眾號后臺回復(fù)：OpenCV實戰(zhàn)項目20講，即可下載含有20個基于OpenCV實現(xiàn)20個實戰(zhàn)項目，實現(xiàn)OpenCV學(xué)習(xí)進(jìn)階。
交流群
歡迎加入公眾號讀者群一起和同行交流，目前有SLAM、三維視覺、傳感器、自動駕駛、計算攝影、檢測、分割、識別、醫(yī)學(xué)影像、GAN、算法競賽等微信群（以后會逐漸細(xì)分），請掃描下面微信號加群，備注：”昵稱+學(xué)校/公司+研究方向“，例如：”張三 + 上海交大 + 視覺SLAM“。請按照格式備注，否則不予通過。添加成功后會根據(jù)研究方向邀請進(jìn)入相關(guān)微信群。請勿在群內(nèi)發(fā)送廣告，否則會請出群，謝謝理解~