【GCN】圖卷積網(wǎng)絡(luò) Graph Convolutional Networks

點(diǎn)擊上方“小白學(xué)視覺(jué)”，選擇加"星標(biāo)"或“置頂”

重磅干貨，第一時(shí)間送達(dá)

本文轉(zhuǎn)自|視覺(jué)算法

   1. Basic

上面左圖是2D卷積神經(jīng)網(wǎng)絡(luò)，其輸入是4行4列的矩陣，通過(guò)卷積核逐步移動(dòng)實(shí)現(xiàn)對(duì)整個(gè)輸入的卷積操作；而右圖輸入是圖網(wǎng)絡(luò)，其結(jié)構(gòu)和連接是不規(guī)則的，無(wú)法像卷積神經(jīng)網(wǎng)絡(luò)那樣實(shí)現(xiàn)卷積操作，由此提出圖卷積網(wǎng)絡(luò)。

以Zachary’s Karate Club社群為例，其結(jié)構(gòu)如下圖所示：

即總共是0~33共34個(gè)node，代表34個(gè)人，兩個(gè)node如果有線段連接代表兩者關(guān)聯(lián)，否則無(wú)關(guān)聯(lián)；這34個(gè)人被分為兩類，分別是“Officer”和“Mr. Hi”；為便于查看整個(gè)網(wǎng)絡(luò)中每個(gè)人與其他人的關(guān)聯(lián)關(guān)系，重構(gòu)關(guān)聯(lián)圖如下：

基于上圖結(jié)構(gòu)，定義矩陣A（其shape=[34,34]）如下， 每一行代表一個(gè)Node；

A[0] =[0., 1., 1., 1., 1., 1., 1., 1., 1., 0., 1., 1., 1., 1., 0., 0., 0., 1., 0., 1., 0., 1., 0., 0., 0., 0., 0., 0., 0., 0., 0., 1., 0., 0.]，代表第0個(gè)node與第1、2、3、4、5、6、7、8、10、11、12、13、17、19、21、31個(gè)node關(guān)聯(lián)；

A[11] = [1., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,0., 0.]，代表第11個(gè)node只與第0個(gè)node關(guān)聯(lián)；

A[12] = [1., 0., 0., 1., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.,0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 0.]，代表第12個(gè)node只與第0、3個(gè)node關(guān)聯(lián)；

定義矩陣X(其shape=[34, k]，如k=3)，每一行代表一個(gè)node的3個(gè)特征；其初始值隨機(jī)生成；

定義矩陣W(其shape=[k, 1])，隨機(jī)參數(shù)矩陣；

類別（Label）：node[0, 1, 2, 3, 4, 5, 6, 7, 8, 10, 11, 12, 13, 16, 17, 19, 21]是“Mr. Hi”；node[9, 14, 15, 18, 20, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33]是“Officer”；

圖卷積網(wǎng)絡(luò)的propagation如下：

圖卷積網(wǎng)絡(luò)可用于特征表征，即最小化Loss，更新矩陣X和W，其中矩陣X的每一行即為對(duì)應(yīng)node的特征，這和word2vec模型很像。

模型地址：https://zhuanlan.zhihu.com/p/88757091

   2. More

矩陣A的每一行表示的關(guān)聯(lián)點(diǎn)并不包含其自身，為更好的表達(dá)網(wǎng)絡(luò)結(jié)構(gòu)，定義矩陣AI

AI = A + eye(34)；

矩陣AI中值為1.0多的行比少的行在propagation中意味著更大的值，訓(xùn)練時(shí)不穩(wěn)定，容易造成梯度爆炸，由此引入對(duì)角矩陣D；

則圖卷積網(wǎng)絡(luò)的propagation修改為：

該式后又優(yōu)化為：

Notes:D是對(duì)角矩陣，此處定義其0元素的負(fù)k（k=1.0, 0.5）次方仍是0；

優(yōu)化前后兩者的區(qū)別在于:

即優(yōu)化后，運(yùn)算時(shí)不僅僅考慮D矩陣中node[i]對(duì)應(yīng)的點(diǎn)還考慮了node[j]對(duì)應(yīng)的點(diǎn)；

Loss函數(shù)不變，仍為下式：

最小化Loss，更新X和W矩陣，其中X即為特征表征；

   3. Other

3.1 X矩陣：特征表征

3.1.1 Karate Club的三維表征（即X矩陣為三維矩陣，并將其通過(guò)pca進(jìn)行維度轉(zhuǎn)換及降維進(jìn)行展示）

3.1.2 football的多維(1~5)表征

1D feature representation

2D feature representation

3D feature representation

4D feature representation

5D feature representation

train figure for loss and accuracy

3.2 Semi-Supervised（半監(jiān)督）

上述討論中是所有node都是已知的，即其在網(wǎng)絡(luò)中的關(guān)聯(lián)關(guān)系和類別（Label）都是已知的，則矩陣A的shape=[34,34]；如果有N個(gè)node在網(wǎng)絡(luò)中的關(guān)聯(lián)關(guān)系是已知的，但是類別未知，其亦可參與訓(xùn)練，此時(shí)矩陣A的shape=[34, 34+N]，其它不變，然后進(jìn)行訓(xùn)練，訓(xùn)練完成后，這N個(gè)node的類別是可以被這個(gè)訓(xùn)練完的模型預(yù)測(cè)的。

3.3 多l(xiāng)ayer多類別的情況

附代碼：

https://link.zhihu.com/?target=https%3A//github.com/frank0532/graph_convolutional_networks

交流群

歡迎加入公眾號(hào)讀者群一起和同行交流，目前有SLAM、三維視覺(jué)、傳感器、自動(dòng)駕駛、計(jì)算攝影、檢測(cè)、分割、識(shí)別、醫(yī)學(xué)影像、GAN、算法競(jìng)賽等微信群（以后會(huì)逐漸細(xì)分），請(qǐng)掃描下面微信號(hào)加群，備注：”昵稱+學(xué)校/公司+研究方向“，例如：”張三 + 上海交大 + 視覺(jué)SLAM“。請(qǐng)按照格式備注，否則不予通過(guò)。添加成功后會(huì)根據(jù)研究方向邀請(qǐng)進(jìn)入相關(guān)微信群。請(qǐng)勿在群內(nèi)發(fā)送廣告，否則會(huì)請(qǐng)出群，謝謝理解~