Paper Review11편 · 약 58분

GNN 논문 리뷰 시리즈

그래프 표현 학습과 그래프 신경망(GNN)을 11편으로 읽는 시리즈입니다.

여기서 시작하세요 · 5분

DeepWalk: Online Learning of Social Representations

DeepWalk은 짧은 random walk를 단어열처럼 다루어 노드 임베딩을 학습한다.

첫 글 읽기

추천 읽기 순서

1–2 · 노드를 벡터로 표현하기

2편 · 11분

DeepWalk·SDNE로 그래프의 노드를 어떻게 벡터로 표현하는지 익힙니다. 다음 단계에서는 노드 표현 자체를 학습하는 관점에서 특징과 이웃으로 표현을 계산하는 방식으로 이동합니다.

  1. DeepWalk: Online Learning of Social Representations

    DeepWalk은 짧은 random walk를 단어열처럼 다루어 노드 임베딩을 학습한다.

    5분
  2. Structural Deep Network Embedding

    SDNE는 인접행렬을 깊은 오토인코더로 복원하면서 연결된 노드를 가깝게 만드는 초기 그래프 임베딩 방법이다.

    6분

3–6 · 이웃 집계·일반화·표현력

4편 · 22분

GCN·GraphSAGE·GAT·GIN으로 이웃 정보를 모으는 메시지 패싱, 새 노드에 적용하는 조건, 구조를 구별하는 능력을 살펴봅니다. 준지도 학습, 귀납적 적용, 어텐션, 표현력은 서로 다른 질문이며 귀납적 적용은 비지도 학습과 동의어가 아닙니다.

  1. Semi-Supervised Classification with Graph Convolutional Networks

    GCN은 인접한 문서의 feature를 섞어 일부 라벨만으로 노드를 분류한다.

    5분
  2. Inductive Representation Learning on Large Graphs

    GraphSAGE는 노드별 벡터표를 외우는 대신 특징과 이웃에서 표현을 계산하는 함수를 배운다.

    6분
  3. Graph Attention Networks

    GAT은 이웃 특징에 masked self-attention을 적용해 노드별 가중합을 만든다.

    5분
  4. How Powerful are Graph Neural Networks?

    GIN은 sum과 MLP로 이웃 다중집합을 보존해 1-WL과 같은 구별력에 도달하는 충분조건을 보인다.

    6분

7–8 · 노드와 관계의 종류 구분하기

2편 · 10분

HetGNN·HAN으로 노드와 관계의 종류가 다를 때 무엇을 구분해야 하는지 읽습니다. 단일 종류의 이웃 집계에서 타입과 관계 경로를 고려하는 입력 구조로 범위를 넓힙니다.

  1. Heterogeneous Graph Neural Network

    HetGNN은 restart random walk로 타입별 이웃을 뽑고, 콘텐츠 인코더와 타입 간 attention을 결합한다.

    5분
  2. Heterogeneous Graph Attention Network

    HAN은 meta-path 안의 이웃과 meta-path 사이의 중요도를 두 단계 attention으로 결합한다.

    5분

9–10 · 이미 나온 예측 설명하기

2편 · 10분

GNNExplainer·Temporal GNN 설명으로 예측에 관여한 입력 구조와 특징을 조사합니다. 마스크는 연결이나 특징을 선택·가중하는 값으로, 현실 인과를 증명하지 않습니다. 예측 모델을 만드는 문제와 그 판단을 설명하는 문제를 구분합니다.

  1. GNNExplainer: Generating Explanations for Graph Neural Networks

    GNNExplainer는 이미 학습된 GNN의 예측을 최대한 유지하는 작은 부분그래프와 feature mask를 찾는다.

    5분
  2. Explaining Temporal Graph Neural Networks via Feature-induced Information Flow

    Temporal GNN의 사건 관련도를 모델 내부의 특징 정보 흐름으로 추적한다.

    5분

11 · 충분히 조정한 기준선과 비교하기

1편 · 5분

GNN+로 새 모델의 성능을 주장하기 전에 기존 기준선을 충분히 조정했는지 돌아봅니다. 앞서 본 모델 구조를 실제 학습·평가 조건과 연결하되, 예측 출력 단위와 데이터 구성·분할 단위를 구분합니다.

  1. Can Classic GNNs Be Strong Baselines for Graph-level Tasks? Simple Architectures Meet Excellence

    GNN+는 GCN·GIN·GatedGCN에 여섯 가지 널리 쓰인 학습·구조 요소를 결합해 14개 그래프 벤치마크에서 강한 성능을 보였다.

    5분

논문 선택 비교

11편 중 예측 모델, 새 노드 표현 학습, 사후 설명, 기준선 개선의 차이를 보여 주는 네 논문을 비교합니다. 서로 대체하는 네 모델이 아니라 목적에 따라 함께 검토할 연구입니다.

성능 순위가 아닌 역할 비교입니다. 평가 조건과 한계는 상세 근거에서 확인하세요.

GCN

역할
이웃 특징을 모아 예측하는 기본 모델
이럴 때
고정된 그래프의 준지도 노드 분류를 이해하려는 경우
주의점
원문의 실험 조건을 모든 GCN의 적용 한계로 일반화하지 않습니다.
GCN 상세 근거

GraphSAGE

역할
새 노드의 표현도 계산하는 학습 프레임워크
이럴 때
학습 때 보지 못한 노드나 그래프에 적용하는 설정을 검토할 때
주의점
귀납적 적용은 지도·비지도 학습 목적과 별개의 조건입니다.
GraphSAGE 상세 근거

GNNExplainer

역할
학습된 모델의 예측을 조사하는 사후 설명
이럴 때
특정 예측에 관여한 연결과 입력 특징을 살펴보려는 경우
주의점
예측 모델의 대체재도, 현실 인과관계의 증명도 아닙니다.
GNNExplainer 상세 근거

GNN+

역할
기존 GNN을 충분히 조정하는 기준선 프레임워크
이럴 때
새 구조의 효과를 비교하기 전에 학습·평가 조건을 점검할 때
주의점
데이터 분할 단위와 예측 출력 단위를 구분해서 읽어야 합니다.
GNN+ 상세 근거

상세 근거와 출처

해석 한계: 네 항목은 같은 문제의 순위표가 아니다. GCN·GraphSAGE·GNN+는 서로 다른 예측·일반화 조건을 다루고, GNNExplainer는 이미 학습된 모델을 설명하는 사후 방법이다.

각 항목은 원논문에 근거합니다. 입력 그래프를 새로 만드는 방법이 아니거나 예측을 설명하는 기능이 없는 경우에는 ‘해당 없음’으로 표시했습니다. ‘미확인’은 논문에서 확인할 근거가 부족하다는 뜻입니다. 원문 실험의 제약을 모든 적용 상황의 한계로 일반화하지 않으며, GNN의 예측 설명과 GraphRAG의 원문 근거 확인은 구분해서 읽어야 합니다.

GCN

전 항목 출처출처 1
다루는 정보·표현 단위
이웃 특징을 집계하는 예측 아키텍처다. 주어진 그래프의 인접행렬과 노드 특징을 정규화된 이웃 집계로 전파해 노드별 표현과 분류값을 만든다.
입력 그래프와 구성
해당 없음GCN은 입력 그래프의 인접행렬을 전제로 하며, 원시 데이터에서 그래프를 만드는 절차를 제안하지 않는다.
평가 조건
고정된 citation·knowledge graph에서 준지도 노드 분류를 평가하고, 전체 그래프를 한 번에 쓰는 full-batch 설정을 사용했다.
설명·근거 확인
해당 없음이 논문은 예측 표현 학습이 목적이며, 개별 예측에 대한 부분그래프·특징 설명 절차를 포함하지 않는다.
비용
희소 인접행렬을 쓰면 한 층의 계산과 메모리가 엣지 수에 선형이지만, 논문 구현은 데이터가 메모리에 들어가는 full-batch 학습을 전제로 한다.
실패 조건
원문의 실험은 고정 그래프와 full-batch 학습 조건이다. §7.2는 메모리 부담을 줄일 mini-batch 확장을 후속 과제로 논의한다. 새 노드·새 그래프에 대한 귀납적 적용은 이 실험으로 검증하지 않았으며, 이를 모든 GCN의 고유 제약으로 일반화하지 않는다.
논문 선택 비교로 돌아가기

GraphSAGE

전 항목 출처출처 1
다루는 정보·표현 단위
대상 노드의 고정 수 이웃을 샘플링하고 층별 aggregator로 이웃 특징을 합쳐, 보지 못한 노드에도 적용할 수 있는 표현 함수를 학습한다.
입력 그래프와 구성
해당 없음GraphSAGE는 citation·Reddit·PPI처럼 이미 정의된 그래프와 노드 특징을 사용하며 그래프 생성 자체를 다루지 않는다.
평가 조건
시간 뒤의 citation·Reddit 노드와 완전히 보지 못한 PPI 그래프를 대상으로 inductive node classification을 평가했다. 학습 때 없던 노드·그래프에 적용하는 귀납적 설정과 지도·비지도 학습 목적은 별개의 선택이며, 원문은 두 학습 목적을 모두 다룬다.
설명·근거 확인
해당 없음샘플링된 이웃은 계산 입력이지만, 원 논문은 이를 예측 근거 설명이나 인과적 증거로 검증하지 않는다.
비용
이웃 샘플 수로 계산량을 제한해 정확도와 실행시간을 조절한다. 큰 샘플은 수익이 줄고, 깊이가 늘면 필요한 다중-hop 이웃 수가 곱으로 커질 수 있다.
실패 조건
표현 품질은 사용할 수 있는 노드 특징과 이웃 샘플에 의존한다. 원문은 uniform sampling을 사용하며 directed·multi-modal graph와 학습형 sampling은 후속 과제로 남긴다.
논문 선택 비교로 돌아가기

GNNExplainer

전 항목 출처출처 1
다루는 정보·표현 단위
이미 학습된 GNN의 특정 예측을 유지하는 작은 computation subgraph와 node-feature mask를 사후 최적화한다. 예측 모델을 대체하는 아키텍처가 아니라 그 판단을 조사하는 설명 방법이다.
입력 그래프와 구성
해당 없음설명 대상 GNN과 그 입력 그래프를 고정한 뒤 mask를 찾는 방법이므로 새 그래프를 구성하지 않는다.
평가 조건
정답 motif가 심어진 synthetic node-classification graph와 MUTAG·REDDIT-BINARY graph classification 사례에서 설명을 평가했다.
설명·근거 확인
예측에 민감한 edge와 feature를 mask로 제시해 모델 내부의 사용 신호를 검사할 수 있다. 이 mask는 현실 세계의 인과 원인이나 개입 효과를 뜻하지 않는다.
비용
각 설명마다 연속 mask를 gradient optimization으로 찾아야 하며, 후보 subgraph의 직접 조합 탐색을 피하는 대신 설명별 최적화 비용이 든다.
실패 조건
설명 크기·feature 수·regularization 설정에 민감하고, synthetic 평가는 미리 심은 motif를 기준으로 한다. 여러 mask가 같은 예측을 보존할 수 있어 유일한 원인 설명으로 읽을 수 없다.
논문 선택 비교로 돌아가기

GNN+

전 항목 출처출처 1
다루는 정보·표현 단위
기존 GCN·GIN·GatedGCN에 구조·학습 요소를 결합하고 조정하는 기준선 프레임워크다. message passing에 edge feature, normalization, dropout, residual connection, FFN, positional encoding을 결합해 node representation을 만든다. graph-level/property 과제에서는 이를 pooling해 graph representation으로 바꾸고, PATTERN·CLUSTER·PascalVOC-SP·COCO-SP에서는 node-level 출력을 유지한다.
입력 그래프와 구성
해당 없음GNN+는 주어진 분자·superpixel·code graph 등의 학습 블록과 튜닝 기준선이며, 그래프 구축 절차를 제안하지 않는다.
평가 조건
논문의 graph-level study가 묶은 14개 벤치마크에서 세 classic GNN 변형을 재평가했다. 이 가운데 10개는 graph-level/property prediction이고, PATTERN·CLUSTER·PascalVOC-SP·COCO-SP 네 개는 node classification이다. 여기서 graph-level은 그래프 단위 데이터 구성·분할 설정도 포함하며, 예측 출력이 모두 그래프 하나당 하나라는 뜻은 아니다.
설명·근거 확인
해당 없음이 연구는 강한 예측 기준선 구축이 목적이며, 개별 graph prediction의 근거를 설명하는 별도 메커니즘을 포함하지 않는다.
비용
논문은 여러 데이터셋에서 Graph Transformer보다 빠른 실행을 보고하지만, 이 비교는 선택한 모델·데이터셋·튜닝 조건에 한정된다.
실패 조건
성능은 edge feature, positional encoding, FFN과 데이터셋별 탐색을 포함한 조합에 의존한다. 장거리 의존성과 over-smoothing·over-squashing이 모든 그래프에서 해결됐다는 근거는 아니다.
논문 선택 비교로 돌아가기