Explaining Temporal Graph Neural Networks via Feature-induced Information Flow

Paper: Ping Xiong; Thomas Schnake; Klaus-Robert Müller; Shinichi Nakajima (2026). "Explaining Temporal Graph Neural Networks via Feature-induced Information Flow". PDF · arXiv:2606.27201v2

시간 그래프에는 “누가 누구와 연결됐는가”만 아니라 언제 어떤 event가 일어났는가가 들어 있다. 그래서 어떤 Temporal GNN이 목표 예측을 냈을 때, 단순히 과거 event를 가려서는 설명이 불완전하다. 이 논문은 event가 node memory와 message-passing을 거쳐 target prediction까지 모델 계산 안에서 정보를 전달한 정도를 Event Relevance(ER)로 정의한다. 이 논문은 시간순 event 목록의 중요도뿐 아니라 모델 내부에서 feature가 흐른 경로도 함께 보자고 제안한다.

1. 시간 그래프에서 설명이 어려운 이유

정적 GNN에서는 target node의 K-hop computation graph를 잡아 edge mask를 배울 수 있다. Temporal GNN에서는 같은 node라도 과거 event가 memory를 바꾸고, 그 memory가 나중 event의 message에 들어간다. 두 event가 모두 target 근처에 있어도 하나는 정보가 target까지 도달하지 못했을 수 있다. 반대로 오래된 event는 여러 memory update를 거쳐 뒤늦게 영향을 줄 수 있다.

따라서 “최근 event가 중요하다”는 시간 heuristic과 “그 event를 가리면 예측 확률이 줄어든다”는 occlusion은 충분하지 않을 수 있다. 특히 같은 공격 motif가 둘 이상일 때 하나만 지워도 예측이 유지되면, 단일 제거 기반 점수는 중요한 원인을 낮게 줄 위험이 있다.

2. 논문의 핵심: feature-induced information flow

저자들은 Temporal GNN을 event embedder, message function, update function, event propagation(EP) 모듈로 나누어 본다. event e의 feature가 다음 memory와 message에 들어가 target logit에 닿는 연결을 추적한다. ER은 이 흐름을 기준으로 event가 target prediction에 기여한 정도를 정하고 ER-feat·ER-msg 등 서로 다른 개입 위치의 정의를 비교한다.

여기서 “flow”는 주어진 ETGNN 계산 그래프 안에서 feature가 전달되는 경로를 가리킨다. 네트워크 트래픽 로그 자체를 뜻하지 않는다. 방법은 모델이 memory를 어떻게 갱신하고 event를 어떻게 시간순으로 처리하는지 알아야 한다. black-box 예측 API만 보고 적용하는 범용 설명기는 아니다.

그림 1. Xiong et al. (2026), Figure 4, PDF p. 6의 원도판. event feature가 message와 node memory를 거쳐 prediction으로 가는 ETGNN 계산을 분해한다. ER은 이 그림의 계산 의존성에 기대므로, 실제 사회적·물리적 인과 그래프를 직접 복원하는 방법은 아니다.

3. 작은 예로 보기

모델 계산을 설명하기 위한 가상 예로, 감염 확산 그래프에서 A→B 사건의 정보가 B의 memory에 남고 뒤 사건에서 C의 상태 예측에 쓰였다고 하자. A→B event는 C와 직접 연결되지 않아도 B의 memory를 통해 영향을 남긴다. 반면 C 주변에서 일어났지만 update 뒤에 사용되지 않은 event는 가까워 보여도 relevance가 낮을 수 있다.

논문의 Infection synthetic setting은 이런 차이를 평가하기 위해 감염 체인을 정답 구조로 제공한다. 실제 소셜 이벤트에서는 정답 chain을 모르므로, ER heatmap은 모델의 내부 의존성을 보여 주는 가설로 읽어야 한다. “감염을 실제로 일으킨 접촉”이라는 결론에는 별도의 관찰·개입 증거가 필요하다.

4. 원문 실험이 말하는 것

실험 과제는 합성 Infection의 노드 감염 예측, 합성 Attacker의 그래프 단위 공격자 motif 분류, 실제 ICEWS18의 256종 사건 관계 유형 분류다. 수준이 다른 세 과제를 한 가지 노드 분류 결과로 묶어 읽으면 안 된다. Table 1(PDF p. 10)의 Infection chain recall은 ER 0.844, Occlusion 0.352로, 중요도 상위 사건들이 설계된 감염 사슬을 얼마나 회수했는지 비교한다. Attacker에서 ER의 Pruning 0.843, Activation 0.565는 다른 지표다. Prune은 모든 사건을 넣었을 때의 목표 클래스 확률에서 중요도 상위 k개를 제거한 뒤의 확률을 뺀 값이다. 확률 하락이 클수록 높다. Activate는 상위 k개만 남겼을 때의 목표 클래스 확률이므로 유지된 확률이 높을수록 높다. 두 지표 모두 원시 확률이 같은 방향으로 변한다는 뜻이 아니다.

그림 2. Xiong et al. (2026), Figure 8, PDF p. 10의 원도판. 한 Infection 목표 노드에 대해 방법별 상위 20개 사건 edge를 정성적으로 보여 준다. 검은 edge는 설계된 감염 사슬이다. 이 그림은 Pruning/Activation 곡선이 아니다.

Attacker에서는 여러 attacker subgraph가 있을 때 Occlusion이 하나만 지워서는 예측이 변하지 않아 motif를 찾기 어렵고, ER과 ER-msg가 information flow를 고려해 더 잘 찾는 양상을 Appendix Figure F.8(PDF p. 25)의 Pruning/Activation 곡선으로 보고한다. 이는 occlusion 일반론의 실패 증명이 아니라, 여러 충분한 증거가 공존하는 이 synthetic 설계에서의 결과다. 기반 분류기의 성능도 설명 점수의 조건이다. Appendix E는 Infection ETGNN-id 80.7%, ETGNN-attn 81.6%, ICEWS18 32.7%를 적고, 본문 §5.2는 Attacker 그래프 시험 정확도 99.0%를 보고한다.

5. 전제와 한계

이 방법은 event 처리 순서, memory state, message/update 함수가 명시된 Temporal GNN을 전제로 한다. temporal batching, timestamp 동률 처리, feature normalization이 달라지면 같은 raw event도 다른 계산 경로를 갖는다. 또한 target prediction에 영향을 준 feature 경로와 현실의 원인 경로는 다를 수 있다. 모델이 우연한 상관이나 data collection bias를 이용했다면 ER은 그 shortcut도 충실히 드러낼 수 있다.

평가도 정확히 분류한 target 및 top-k deletion/addition에 의존한다. 설명을 제거해 확률이 변했다고 해서 사람이 이해하기 쉽거나 안정적이라는 뜻까지 따라오지 않는다. 반대로 redundancy가 있는 경우 하나의 중요한 event를 지워도 결과가 안 변할 수 있다. 논문이 여러 relevance 정의와 synthetic multiple-attacker 조건을 둔 이유가 여기에 있다.

6. 결론

이 논문은 시간 그래프를 설명할 때 “어떤 feature가 model computation을 통해 도착했는가”를 묻는다. “어떤 event가 가까운가”만 보지 않는다. Temporal GNN을 해석할 때 매우 유용한 관점이지만, 계산상 relevance와 현실 인과를 구분하고 모델 구조·시간 전처리·평가의존성을 함께 기록해야 한다.

더 긴 ER 정의와 real-world 사례는 심화 보기에서 확인할 수 있다.

References

Xiong, P., Schnake, T., Müller, K.-R., & Nakajima, S. (2026). Explaining temporal graph neural networks via feature-induced information flow (arXiv:2606.27201v2). arXiv. https://arxiv.org/abs/2606.27201v2