graph-neural-networks node-classification graph-classification skip-connections heterophily hierarchical-learning haar-basis oversmoothing
Abstract
Graphs with heterophily, where adjacent nodes carry different labels, are prevalent in real-world applications, from social networks to molecular interactions. However, existing spectral Graph Neural Network (GNN) approaches tailored for heterophilous graph classification suffer from hub-dominated (node with large degree) aggregation and oversmoothing, as their suboptimal polynomial filters introduce approximation errors and blend distant signals. To address the degree-biased aggregation and suboptimal polynomial filtering, we introduce a Hierarchical Multi-view HAAR (HMH), a novel spectral graph-learning framework that scales in near-linear time . HMH first learns feature- and structure-aware signed affinities via a heterophily-aware encoder, then constructs a soft graph hierarchy guided by these embeddings. At each hierarchical level, HMH constructs a sparse, orthonormal, and locality-aware Haar basis to apply learnable spectral filters in the frequency domain. Finally, skip-connection unpooling layers combine outputs from all hierarchical levels back into the original graph, effectively preventing hub domination and long-range signal bottleneck (over-squashing). Experimentation shows that HMH outperforms state-of-the-art spectral baselines, achieving up to a 3% improvement on node classification and 7% points on graph classification datasets, all while maintaining linear scalability.
한국어 요약
📋 한 줄 요약
**[그래프 신경망 / 이질성]** 헤테로필리(이웃 노드의 라벨이 다른) 그래프 분류에서 허브 편향 집계와 과평활화를 완화하기 위해 신호 친화도 기반 계층 구조 위에 학습 가능한 Haar 기저 필터를 적용하는 HMH 프레임워크를 제안한다.
🎯 핵심 기여도
- 헤테로필러스 그래프 분류용 새로운 스펙트럴 GNN 프레임워크 HMH(Hierarchical Multi-view HAAR) 제안
- 특징 및 구조 인식 부호 친화도를 학습하여 소프트 그래프 계층 구조를 자동 구성
- 각 계층 수준에서 희소·직교·국소성 인식 Haar 기저로 학습 가능한 스펙트럴 필터 구현
- 거의 선형 시간 확장성을 유지하며 SOTA 스펙트럴 베이스라인을 노드 분류 +3%, 그래프 분류 +7%p 개선
💡 핵심 아이디어
헤테로필리 그래프에서는 일반 GNN의 다항식 필터가 근사 오차를 만들고 허브 노드가 집계를 지배하며 멀리 떨어진 신호를 혼합한다. HMH는 학습된 부호 친화도로 그래프를 다중 스케일 계층으로 정리한 뒤, 각 수준에서 국소적이고 직교적인 Haar 기저로 주파수 도메인 필터링을 수행해 허브 지배와 과압축(oversquashing)을 동시에 완화한다.
🔬 기술적 접근법
- **모델/방법론**: 헤테로필리 인식 인코더 + 소프트 그래프 계층 + 계층별 학습 가능 Haar 스펙트럴 필터 + 스킵 연결 언풀링
- **핵심 기법**: 부호 있는 친화도 학습으로 동질·이질 이웃 분리, 직교·국소 Haar 기저로 다중 스케일 주파수 필터링, 모든 계층 출력을 원래 그래프로 결합
📊 주요 결과
- 노드 분류에서 최대 3% 성능 향상
- 그래프 분류에서 최대 7%p 향상
- 거의 선형 시간 확장성 유지
- SOTA 스펙트럴 베이스라인 일관 능가
💭 의의 및 한계
**의의**: 헤테로필러스 그래프 학습에서 자주 분리되어 다뤄지던 과평활화, 과압축, 허브 편향을 다중 스케일 Haar 기저라는 하나의 구조로 동시 완화하는 통합적 접근을 제시한다. **한계**: Haar 기저 구성과 계층 학습이 추가 설계 부담을 만들며, 사회망·분자 등 다양한 영역에서 적합한 친화도 학습 방식이 도메인마다 다를 수 있다.
🚀 실용적 활용
- 부정 거래 탐지처럼 이웃 노드 라벨이 다른 금융 그래프 분석
- 단백질 상호작용·분자 그래프 분류
- 대규모 소셜 그래프에서 의견 다원성을 보존한 추천 시스템