Part1 方差

之前介紹了方差是用來(lái)刻畫(huà)數(shù)據(jù)波動(dòng)性的統(tǒng)計(jì)量，那么協(xié)方差就是描述兩個(gè)變量之間的變動(dòng)關(guān)系。

通俗地理解為：兩個(gè)變量是同向變化？還是反向變化？同向或反向程度有多少？

X變大，Y也變大，說(shuō)明兩個(gè)變量是同向變化的，這時(shí)協(xié)方差就是正的。
X變大，Y變小，說(shuō)明兩個(gè)變量是反向變化的，這時(shí)協(xié)方差就是負(fù)的。
并且從數(shù)值大小來(lái)看，協(xié)方差的絕對(duì)值越大，則兩個(gè)變量同向或反向的程度也越大，即有較強(qiáng)的相關(guān)。

公式的計(jì)算很簡(jiǎn)單，每個(gè)X與其均值之差乘以Y與其均值之差得到一個(gè)乘積，再將其都加起來(lái)求個(gè)均值即可。

比如有兩個(gè)變量X,Y，觀察7個(gè)樣本，畫(huà)出他們的變化情況，并且很明顯是同向變化的。

可以發(fā)現(xiàn)每一時(shí)刻的值與的值的正負(fù)號(hào)相同（比如t1時(shí)刻，他們同為正，t2時(shí)刻他們同為負(fù)）：

于是當(dāng)他們同向變化時(shí)，與的乘積為正。這樣，當(dāng)你把7個(gè)時(shí)刻的乘積加在一起，求平均后也就是正數(shù)了。

如果反向運(yùn)動(dòng)：

很明顯，的值與的值的正負(fù)號(hào)相反，于是其乘積就是負(fù)值，計(jì)算出來(lái)的協(xié)方差也就是負(fù)數(shù)了。

上面說(shuō)的兩種情況比較特殊，很多時(shí)候XY兩個(gè)變量的變動(dòng)沒(méi)有規(guī)律，比如：

這種情況下某些的值與的值乘積為正，某些的值與的值乘積為負(fù)。

加在一起后，其中的一些正負(fù)項(xiàng)就會(huì)抵消掉，最后平均得出的值就是協(xié)方差，通過(guò)協(xié)方差的數(shù)值大小，就可以判斷這兩個(gè)變量同向或反向的程度了。

所以，在7個(gè)樣本中，與的乘積為正的越多，說(shuō)明同向變化的次數(shù)越多，亦即同向程度越高，反之亦然。

總而言之，

若協(xié)方差為正，則X和Y同向變化；
反之協(xié)方差為負(fù)，則反向變化；
協(xié)方差絕對(duì)值越大表示同向或反向的程度越深。

其實(shí)方差也是一種特殊的協(xié)方差，只不過(guò)是X和X之間的協(xié)方差。

Part2 相關(guān)系數(shù)

相關(guān)系數(shù)的公式為：

其實(shí)就是用X、Y的協(xié)方差除以X和Y的標(biāo)準(zhǔn)差。

所以相關(guān)系數(shù)可以看成剔除了兩個(gè)變量單位的影響、標(biāo)準(zhǔn)化后的特殊協(xié)方差。它可以反映兩個(gè)變量變化是同向還是反向的，同向?yàn)檎聪驗(yàn)樨?fù)。

并且它又是標(biāo)準(zhǔn)化后的協(xié)方差，則它出現(xiàn)最重要的目的來(lái)了，就是消除兩個(gè)變量單位的影響，使得不同變量的相關(guān)系數(shù)之間具有可比性。

比如下面兩種情況，關(guān)注一下縱軸的刻度：

很容易可以看出兩種情況下X和Y都是同向變化的，并且它們變化的方式都大致相同，在特定的樣本點(diǎn)同為正或同為負(fù)，那么它們理應(yīng)具有相同的相關(guān)關(guān)系。于是可以計(jì)算一下他們的協(xié)方差：

第一種情況下：

[(100-0)×(70-0)+(-100-0)×(-70-0)+(-200-0)×(-200-0)…]÷7≈15428.57

第二種情況下：

[(0.01-0)×(70-0)+(-0.01-0)×(-70-0)+(-0.02-0)×(-200-0)…]÷7≈1.542857

協(xié)方差差了一萬(wàn)倍，只能看出兩種情況都是正相關(guān)的，但是我們能說(shuō)第一種情況就相關(guān)性更強(qiáng)嗎？

在上面兩種情況中，雖然X和Y的變化方向都相同，但是每次變化的幅度不相同，主要原因是單位的不一致引起的。

所以，為了能準(zhǔn)確比較兩個(gè)變量的相關(guān)程度，我們就要把變化幅度對(duì)協(xié)方差的影響中剔除掉，也就是要去掉單位的影響，于是就要使用相關(guān)系數(shù)。

那么如何剔除變量變化幅度的影響呢？很自然的就應(yīng)該使用前面提到的方差和標(biāo)準(zhǔn)差了！

相關(guān)系數(shù)是協(xié)方差除以標(biāo)準(zhǔn)差，當(dāng)X或Y的波動(dòng)變大的時(shí)候，它們的協(xié)方差會(huì)變大，標(biāo)準(zhǔn)差也會(huì)變大，這樣相關(guān)系數(shù)的分子分母都變大，相互抵消，變小時(shí)也亦然。

于是相關(guān)系數(shù)不像協(xié)方差一樣可以在實(shí)數(shù)域上取值，它只能在＋1到－1之間變化，具體為什么是+1和-1，可以自行Google柯西-斯瓦茨不等式。

總之，對(duì)于兩個(gè)變量X、Y，

當(dāng)他們的相關(guān)系數(shù)為1時(shí)，說(shuō)明兩個(gè)變量線性相關(guān)程度最大，兩個(gè)變量存在線性關(guān)系。
隨著相關(guān)系數(shù)減小，兩個(gè)變量相關(guān)程度也變小。
當(dāng)相關(guān)系數(shù)為0時(shí)，兩個(gè)變量的線性無(wú)關(guān)，但要注意，無(wú)關(guān)不一定獨(dú)立。
當(dāng)相關(guān)系數(shù)繼續(xù)變小，小于0時(shí)，兩個(gè)變量開(kāi)始出現(xiàn)反向相關(guān)。
當(dāng)相關(guān)系數(shù)為－1時(shí)，說(shuō)明兩個(gè)變量線性相關(guān)程度也最強(qiáng)，不過(guò)是相反的線性相關(guān)，反相變化。

讓我們?cè)倩氐角懊鎄和Y的例子，用相關(guān)系數(shù)來(lái)衡量相關(guān)程度：

X的標(biāo)準(zhǔn)差為