圖神經網絡

圖神經網絡（Graph Neural Network，GNN）是近年來出現的一種利用深度學習直接對圖結構數據進行學習的框架，其優異的性能引起了學者高度的關注和深入的探索。通過在圖中的節點和邊上制定一定的策略，GNN 將圖結構數據轉化為規範而標準的表示，並輸入到多種不同的神經網絡中進行訓練，在節點分類、邊信息傳播和圖聚類等任務上取得優良的效果。 ^[1] 

GNN 的歷史最早可以追溯到 2005 年，Gori 等人第一次提出 GNN 概念，用 RNN 來處理無向圖、有向圖、標籤圖和循環圖等。在這之後，Scarselli 等人和 Micheli 等人繼承和發展了該模式的 GNN 算法，並做了一定程度的改進。早期階段的 GNN 主要是以 RNN 為主體框架，通過簡單的特徵映射和節點聚集為每個節點生成向量式表達，不能很好地應對現實中複雜多變的圖數據。針對此情況，Bruna等人提出將 CNN 應用到圖上，通過對卷積算子巧妙的轉換，提出了圖卷積網絡（Graph Convolutional Netwok，GCN），並衍生了許多變體。GCN 實現了 CNN 在圖上的平移不變、局部感知和權值共享[14]，為接下來其他GNN 框架的構造和改進提供思想上的指導和借鑑。 ^[1] 

從 2005 年 Gori 等人提出 GNN 概念，到 GCN的出現為非歐式結構數據提供有效的處理範式，再到 GAE、GAT、GRN、GGN 等不同 GNN 框架變種的提出以及 GNN 在各個領域的應用，GNN 在理論和實踐上經歷一個從無到有、從有到優化的過程，GNN 的體系族也在不斷地發展和完善。從這段歷程中，可以看出許多研究人員對 GNN 算法和結構的不斷改進和優化。 ^[1] 

圖卷積網絡（Graph Convolutional Network，GCN）進行卷積操作主要有兩種方法：一種是基於譜分解，即譜分解圖卷積。另一種是基於節點空間變換，即空間圖卷積。Bruna 等人第一次將卷積神經網路泛化到圖數據上，提出兩種並列的圖卷積模型——譜分解圖卷積和空間圖卷積。 ^[1] 

空間圖卷積從圖結構數據的空間特徵出發，探討鄰居節點的表示形式，使得每個節點的鄰居節點表示變得統一和規整，方便卷積運算。空間圖卷積方法主要有三個關鍵問題，一是中心節點的選擇；二是感受域的大小，即鄰居節點個數的選取；三是如何處理鄰居節點的特徵，即構建合適的鄰居節點特徵聚合函數。 ^[1] 

基於自編碼器的 GNN 被稱為圖自編碼器（Graph Auto-encoder，GAE），可以半監督或者無監督地學習圖節點信息。 ^[1]  在深度學習領域，自編碼器（Auto-encoder，AE）是一類將輸入信息進行表徵學習的人工神經網絡。 ^[1] 

圖 生 成 網 絡 （ Graph Generative Network，GGN）是一類用來生成圖數據的 GNN，其使用一定的規則對節點和邊進行重新組合，最終生成具有特定屬性和要求的目標圖。 ^[1] 

圖循環網絡（Graph Recurrent Network，GRN）是最早出現的一種GNN模型。相較於其他的GNN算法，GRN 通常將圖數據轉換為序列，在訓練的過程中序列會不斷地遞歸演進和變化。GRN 模型一般使用雙向循環神經網絡（Bidirectional RNN，Bi-RNN）和長短期記憶網絡（Long Short-Term Memory Network，LSTM）作為網絡架構。 ^[1] 

注意力機制可以讓一個神經網絡只關注任務學習所需要的信息，它能夠選擇特定的輸入。在 GNN 中引入注意力機制可以讓神經網絡關注對任務更加相關的節點和邊，提升訓練的有效性和測試的精度，由此形成圖注意力網絡（Graph Attention Network，GAT）。 ^[1] 

在節點層面，常見的有節點分類、節點聚合、節點表示學習。在邊層面，則有邊分類、邊聚類以及鏈接預測。在圖層面，圖分類、圖生成、子圖劃分、圖相似度分析等應用較為廣泛。按照圖的種類劃分，可以分為引文網絡、社交網絡、交通網絡、圖像、化合物分子結構、蛋白質網絡等。按照應用領域劃分，可以分為自然語言處理、圖像處理、軌跡預測、物理化學和藥物醫學等。 ^[1]