Blog

Paper Reviews

  • IC2S2 2026 프로그램은 무엇을 검증하나: LLM 전환 그다음의 측정·타당성 국면 — Burlington에서 열린 IC2S2 2026(제12회)의 공식 프로그램을 근거로, 전산사회과학이 LLM을 방법이자 사회현상으로 다루는 방식이 '열광'에서 '검증·측정·비판'으로 옮겨간 국면을 살펴봅니다.
  • IC2S2 2025는 무엇을 검증했나: LLM이 '측정 도구'로 무대에 오른 해 — Norrköping에서 열린 IC2S2 2025(제11회)의 공식 프로그램(구두 284·포스터 323·기조 9·튜토리얼 10)을 근거로, 전산사회과학이 LLM을 사회과학 측정 도구로 쓰되 그 통계적 타당성을 심문하는 '측정론적 전환'을 살펴봅니다.
  • Hypergraph Neural Networks — GCN을 하이퍼그래프로 일반화한 HGNN. 차수 자유 하이퍼엣지로 고차 상관과 다중 모달을 담고 GCN을 특수 경우로 포함한다. 다만 스펙트럴 연산자는 GCN 유도를 하이퍼그래프 라플라시안에 대입한 것이고, 다중 모달 이득은 하이퍼그래프가 아니라 이어 붙이기 융합에서 상당 부분 온다.
  • Graph-of-Agents: A Graph-based Framework for Multi-Agent LLM Collaboration — 다중 에이전트 LLM 협업을 그래프로 정식화한 GoA. 모델 카드로 관련 에이전트만 뽑고 서로 평가해 방향 메시지 전달로 통신한다. 6개 LLM 풀에서 3개만으로 최신 다중 에이전트 베이스라인을 앞서지만, '그래프'는 학습이 아닌 프롬프트 오케스트레이션이고 '3이 6/8을 이긴다'는 서사는 좁다.
  • RAGU: A Multi-Step GraphRAG Engine with a Compact Domain-Adapted LLM — 추출과 통합을 분리한 다단계 GraphRAG 엔진 RAGU와, 추출엔 세계 지식이 아니라 언어 능력이 필요하다는 가설로 학습한 7B 추출기 Meno-Lite-0.1. KG 구축에서 Qwen2.5-32B를 앞서지만, 특화 추출기의 엔드투엔드 이득은 ≤1pp로 압축되고 100배 비용 우위는 API 대비라는 점을 함께 읽는다.
  • LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation — GCN의 피처 변환·비선형 활성화가 ID-only 협업 필터링에는 도움이 안 되고 오히려 학습을 해친다는 NGCF 절제로 보인 뒤, 이웃 집계만 남긴 LightGCN. MF와 같은 복잡도로 NGCF 대비 평균 약 16% 개선하지만, SGCN·APPNP 등가 분석이 균일 가중치 배포 모델을 온전히 정당화하진 않는다.
  • Deep GraphRAG: A Balanced Approach to Hierarchical Retrieval and Adaptive Integration — 커뮤니티 계층 위 global→local 3단계 검색과 상수 폭 beam search로 지식을 찾고, 세 보상의 가중을 개선 속도로 재분배하는 DW-GRPO로 훈련한 소형 LLM이 통합하는 GraphRAG 파이프라인 Deep GraphRAG. NQ·HotpotQA에서 baseline을 앞서지만 CQ 약점·데이터 규모 미보고 등은 함께 읽어야 한다.
  • CoEvoT: Co-Evolving Chain-of-Thought Prompting for Graph–LLM Reasoning — 그래프–LLM의 Chain-of-Thought 추론에서 그래프 토큰을 고정하지 않고, 중간 사고로 그래프 증거를 단계마다 재작성하는 폐루프 CoEvoT. 8개 데이터셋 교차 전이에서 노드 분류·링크 예측 모두 앞서지만, 추론 지연이 baseline 대비 여러 배 늘고 개선폭 편차가 크다.
  • Light Graph Convolutional Collaborative Filtering With Multi-Aspect Information — 아이템 속성(장르·감독·배우·브랜드)마다 사용자-속성 이분 그래프를 만들어 각각 LightGCN을 돌리고 층·측면 임베딩을 균일 평균으로 융합하는 LGC-ACF. 상호작용만 쓰는 베이스라인 대비 NDCG가 오르지만, 부가정보를 쓰는 경쟁 모델과는 비교하지 않는다.
  • Is Attention Interpretable? — 중간 표현에서 attention weight를 지우는 erasure 개입으로 중요도를 검증한다. 가장 큰 weight를 받은 토큰을 지워도 예측은 대개 유지되며, gradient 기반 순위가 magnitude보다 영향을 더 잘 예측한다.
  • Quantum Machine Learning Models for Graphs — n-노드 그래프를 n-큐빗 상태로 인코딩하는 설정에서 대칭군 S_n 아래 등변인 사상 전체를 대칭화(twirling) 궤도 계산으로 특성화한 GQML 설계 도구상자. QAOA 등 알려진 모델을 특수 사례로 복원·일반화하고 고전 결합·사전학습을 제안하는 프레임워크 논문을 비판적으로 읽는다.
  • A Structural Probe for Finding Syntax in Word Representations — 단어 표현에 선형 변환 B 하나를 학습해, 변환 공간의 제곱 거리가 구문 트리의 단어 간 거리를, 제곱 노름이 트리 깊이를 근사하는지 검사한다. ELMo·BERT가 구문 트리를 저차원 선형 부분공간에 인코딩함을 보인다.
  • Locating and Editing Factual Associations in GPT — Meng et al.이 손상-복원 개입으로 사실 예측을 매개하는 hidden state를 추적(causal tracing)해 중간 층 MLP를 지목하고, 그 가중치를 rank-one으로 편집(ROME)해 사실을 바꾸는 방법을 분석합니다.
  • SEED: Self-Evolving On-Policy Distillation for Agentic Reinforcement Learning — Stage 1에서 GLM-5.2가 만든 trajectory–skill pair로 policy의 분석 능력을 초기화한 뒤, SEED가 Stage 2에서 별도 analyzer model이나 고정 skill bank 없이 현재 정책의 완료 궤적을 on-policy distillation 신호로 바꾸는 과정을 비판적으로 읽는다.
  • ICLR 2026 XAI는 무엇을 믿을 수 있나: 설명 생성에서 검증과 개입으로 — ICLR 2026 채택 논문을 중심으로 XAI 연구가 설명 생성에서 faithfulness 검증, circuit 개입, SAE 안정성·utility 평가, concept·temporal attribution으로 어떻게 확장되는지 살펴봅니다.
  • ICLR 2026 GNN 연구 트렌드: 메시지 패싱 이후 확장된 연구 의제 — ICLR 2026 채택 GNN 논문을 바탕으로, 새 아키텍처 연구와 함께 평가·도메인 전이·모델 인터페이스·동적 및 과학 그래프 의제가 어떻게 구체화됐는지 정리합니다.
  • ICLR 2026 Agent 연구는 무엇을 검증하나: 장기 실행 시스템의 학습과 평가 — ICLR 2026 채택 논문을 중심으로 Agent 연구가 장기 실행의 학습, 상태 관리, 도구 사용, 협업 구조와 안전성 평가를 어떻게 다루는지 살펴봅니다.
  • A Systematic Comparison of Contextualized Word Embeddings for Lexical Semantic Change — NAACL 2024의 통제 비교를 바탕으로 APD·XL-LEXEME의 보고 성능과 WiC·WSI·GCD를 분리해 평가해야 하는 이유를 해설합니다.
  • Survey of Computational Approaches to Lexical Semantic Change — Tahmasebi et al.(Language Science Press 2021)이 통시적 의미 변화 연구를 의미 변화 대 어휘 대체, 단어 수준 대 의미 구별의 두 축으로 조직하고, 정답 데이터 부재라는 병목에 세 가정과 여덟 항목 평가 절차를 처방한 문맥화 이전 시기의 대표 서베이를 해설한다.
  • Analysing Lexical Semantic Change with Contextualised Word Representations — Giulianelli et al.(ACL 2020)이 BERT 용법 벡터를 K-평균으로 군집한 용법 유형(usage type) 분포로 단어의 의미 변화를 추적하는 첫 비지도 문맥화 접근과 세 지표(ED·JSD·APD), 그리고 협의화·광의화·은유화를 짚는 해석 도구로서의 값어치를 해설한다.
  • A Survey on Contextualised Semantic Shift Detection — Montanelli & Periti(ACM Computing Surveys 2024)가 BERT 등 문맥화 임베딩 기반 의미 변화 탐지(CSSDetection)를 임베딩·집계·평가 워크플로와 형태·시간·학습 3차원으로 조직하고, 형태 기반의 성능 우위와 의미 기반의 해석성이 갈리는 역설을 정리한 서베이를 해설한다.
  • Statistically Significant Detection of Linguistic Change — Kulkarni et al.(WWW 2015)이 단어별 시계열(빈도·품사 분포·임베딩 변위)에 평균 이동 통계량과 순열 부트스트랩을 붙여, 의미 변화의 시점과 통계적 유의성(p-value)을 함께 검출하는 변화점 탐지 방법을 해설한다.
  • Dynamic Word Embeddings (DSG) — Bamler & Mandt(ICML 2017)가 베이지안 skip-gram 임베딩을 잠재 시계열로 두고 Ornstein-Uhlenbeck 확산 prior로 이어, 사후 정렬 없이 시대별 임베딩을 공동 학습하는 동적 skip-gram(DSG)과 필터링·스무딩 추론을 해설한다.
  • How Contextual are Contextualized Word Representations? — Ethayarajh(EMNLP 2019)가 BERT·ELMo·GPT-2 임베딩의 기하를 세 가지 측도와 이방성 보정으로 정량화해, 문맥화 표현이 정적 벡터 몇 개로 환원되지 않음을 보인 논문을 해설한다.
  • Training Temporal Word Embeddings with a Compass (TWEC) — TWEC(Di Carlo et al., AAAI 2019)가 전체 코퍼스로 학습한 무시대 target 행렬을 나침반으로 고정하고 시대별 문맥 행렬만 재학습해, 사후 정렬 없이 한 좌표계의 시간 임베딩을 얻는 방법을 해설한다.
  • Diachronic Word Embeddings Reveal Statistical Laws of Semantic Change (HistWords) — Hamilton et al.(ACL 2016)의 HistWords가 통시적 임베딩 정렬로 의미 변화의 두 통계 법칙(순응·혁신)을 끌어내는 과정을 해설한다.
  • Dynamic Contextualized Word Embeddings (DCWE) — Hofmann et al.(ACL 2021)의 DCWE가 BERT 문맥화 임베딩에 시간·사회 오프셋을 결합해 동적 문맥화 표현을 만드는 설계를 해설한다.
  • Structural Deep Network Embedding (SDNE) — SDNE가 오토인코더로 인접행렬을 복원해 2차 근접성을, Laplacian 벌점으로 1차 근접성을 함께 보존하려 한 초기 딥 네트워크 임베딩 방법을 해설하고, transductive 한계와 평가 지표의 편향을 짚는다.
  • Can Classic GNNs Be Strong Baselines for Graph-level Tasks? (GNN+) — GNN+가 엣지 특징, 정규화, 드롭아웃, 잔차 연결, FFN, 위치 인코딩을 고전 GCN·GIN·GatedGCN에 더해 그래프 수준 14개 벤치마크에서 Graph Transformer와 경쟁하거나 앞서는지 재평가한 논문을 비판적으로 해설한다.
  • LLM-Based Social Simulations Require a Boundary — LLM 사회시뮬레이션이 사회과학에 기여하려면 명확한 경계가 필요하다는 Boundary 포지션 페이퍼를 해설하고, average persona 수렴, 평균·분산 정렬, 검증 깊이와 주장 수준의 제한을 짚습니다.
  • Population-Aligned Persona Generation for LLM-based Social Simulation — LLM 사회시뮬레이션의 페르소나 집합을 실제 인간 설문 응답 분포에 맞추는 PAPG 논문을 해설하고, importance sampling·optimal transport 기반 정렬의 효과와 한계를 짚습니다.
  • Dynamic Word Embeddings for Evolving Semantic Discovery (DW2V) — DW2V가 시점별 PPMI 행렬 분해와 인접 시점 평활 벌점을 결합해, 시대별 임베딩의 정렬 문제를 별도 후처리 없이 공동 최적화로 푸는 방식을 해설한다.
  • Dynamic Embeddings for Language Evolution (DBE) — DBE가 Bernoulli 임베딩에 시간별 잠재 벡터와 Gaussian random walk 사전분포를 결합해 언어 의미 변화의 궤적을 학습하는 방식을 해설한다.
  • Heterogeneous Graph Attention Network (HAN) — HAN이 meta-path별 node-level attention과 meta-path 간 semantic-level attention을 결합해 이종 그래프에서 중요한 이웃과 의미 관계를 함께 학습한 방식을 해설한다.
  • Heterogeneous Graph Neural Network (HetGNN) — HetGNN이 이종 그래프의 구조·콘텐츠 이질성을 함께 다루기 위해 타입별 이웃 샘플링, Bi-LSTM 콘텐츠 인코딩, 타입 attention을 결합한 방식을 해설한다.
  • DeepWalk: Online Learning of Social Representations — DeepWalk가 짧은 random walk를 문장처럼 보고 SkipGram을 적용해, 라벨이 희소한 소셜 네트워크에서 비지도 node embedding을 학습한 과정을 해설한다.
  • Graph Attention Networks (GAT) — GAT(Graph Attention Networks)가 이웃별 중요도를 고정 정규화가 아니라 노드 feature 쌍에서 학습한 masked self-attention으로 계산해, GCN 수준의 복잡도를 유지하면서 inductive 그래프 학습에 attention을 도입한 과정을 해설한다.
  • How Powerful are Graph Neural Networks? (GIN) — GNN 표현력 연구의 기준점이 된 GIN 논문을 해설한다. 이웃 집계 방식 GNN의 그래프 구별 능력이 Weisfeiler-Lehman test를 넘을 수 없음을 보이고, 그 상한에 도달하는 조건과 이를 만족하는 단순한 아키텍처를 제안한다.
  • Inductive Representation Learning on Large Graphs — Hamilton, Ying, Leskovec의 GraphSAGE 논문이 node별 embedding look-up을 이웃 feature 집계 함수 학습으로 바꿔 unseen node와 unseen graph에 일반화하는 inductive representation learning 프레임워크를 만든 과정을 해설한다.
  • Semi-Supervised Classification with Graph Convolutional Networks — Kipf와 Welling의 GCN 논문이 spectral graph convolution을 1차 근사와 self-loop 정규화로 단순화해 semi-supervised node classification의 표준 layer를 만든 과정을 해설한다.
  • GNNExplainer: Generating Explanations for Graph Neural Networks — GNNExplainer 논문이 제안한 mutual information 기반 부분 그래프·feature mask 설명 방법을 정리하고, synthetic benchmark 결과와 prediction-preserving explanation의 한계를 함께 해설한다.
  • Explaining Temporal Graph Neural Networks via Feature-induced Information Flow — ETGNN 설명에서 event feature뿐 아니라 event-induced message와 memory evolution 경로까지 추적하는 Event Relevance 방법을 분석한다.
  • SkillOpt: Executive Strategy for Self-Evolving Agent Skills — SkillOpt가 동결된 모델의 가중치 대신 외부 스킬 문서를 학습 가능한 텍스트 상태로 두고, rollout 증거·held-out gate·reject buffer로 안정화하는 과정을 분석한다.

Engineering