Hierarchical Multi-Scale Graph Neural Networks: Scalable Heterophilous Learning with Oversmoothing and Oversquashing Mitigation

Md Sazzad Hossen, Avimanyu Sahoo

arXiv:2605.10975 · 2026-05-13 공개 · arXiv · PDF

graph-neural-networks node-classification graph-classification skip-connections heterophily hierarchical-learning haar-basis oversmoothing

Abstract

Graphs with heterophily, where adjacent nodes carry different labels, are prevalent in real-world applications, from social networks to molecular interactions. However, existing spectral Graph Neural Network (GNN) approaches tailored for heterophilous graph classification suffer from hub-dominated (node with large degree) aggregation and oversmoothing, as their suboptimal polynomial filters introduce approximation errors and blend distant signals. To address the degree-biased aggregation and suboptimal polynomial filtering, we introduce a Hierarchical Multi-view HAAR (HMH), a novel spectral graph-learning framework that scales in near-linear time . HMH first learns feature- and structure-aware signed affinities via a heterophily-aware encoder, then constructs a soft graph hierarchy guided by these embeddings. At each hierarchical level, HMH constructs a sparse, orthonormal, and locality-aware Haar basis to apply learnable spectral filters in the frequency domain. Finally, skip-connection unpooling layers combine outputs from all hierarchical levels back into the original graph, effectively preventing hub domination and long-range signal bottleneck (over-squashing). Experimentation shows that HMH outperforms state-of-the-art spectral baselines, achieving up to a 3% improvement on node classification and 7% points on graph classification datasets, all while maintaining linear scalability.

한국어 요약

📋 한 줄 요약

**[그래프 신경망 / 이질성]** 헤테로필리(이웃 노드의 라벨이 다른) 그래프 분류에서 허브 편향 집계와 과평활화를 완화하기 위해 신호 친화도 기반 계층 구조 위에 학습 가능한 Haar 기저 필터를 적용하는 HMH 프레임워크를 제안한다.

🎯 핵심 기여도

💡 핵심 아이디어

헤테로필리 그래프에서는 일반 GNN의 다항식 필터가 근사 오차를 만들고 허브 노드가 집계를 지배하며 멀리 떨어진 신호를 혼합한다. HMH는 학습된 부호 친화도로 그래프를 다중 스케일 계층으로 정리한 뒤, 각 수준에서 국소적이고 직교적인 Haar 기저로 주파수 도메인 필터링을 수행해 허브 지배와 과압축(oversquashing)을 동시에 완화한다.

🔬 기술적 접근법

📊 주요 결과

💭 의의 및 한계

**의의**: 헤테로필러스 그래프 학습에서 자주 분리되어 다뤄지던 과평활화, 과압축, 허브 편향을 다중 스케일 Haar 기저라는 하나의 구조로 동시 완화하는 통합적 접근을 제시한다. **한계**: Haar 기저 구성과 계층 학습이 추가 설계 부담을 만들며, 사회망·분자 등 다양한 영역에서 적합한 친화도 학습 방식이 도메인마다 다를 수 있다.

🚀 실용적 활용