Spectral Energy Centroid: a Metric for Improving Performance and Analyzing Spectral Bias in Implicit Neural Representations

Implicit Neural Representations (INRs) model continuous signals using multilayer perceptrons (MLPs), enabling compact, differentiable, and high-fidelity representations of data across diverse domains. However, due to the low-frequency bias of MLPs that prevents effective learning of small details, the model's frequency must be carefully tuned through the embedding layer. Prior work established that this tuning can be performed before training based on the target signal, but it did not account for the significant effect of model depth, indicating that our understanding of the relationship between frequency and INR performance remains limited. To gain insights into this relationship, we utilize the Spectral Energy Centroid (SEC) metric that quantifies the frequency of target images and the spectral bias of INR models. We show that SEC is a versatile tool for INR analysis, demonstrating its utility across three tasks: (1) a data-driven strategy (SEC-Conf) for hyperparameter selection that outperforms existing heuristics and is robust to model depth, (2) a reliable proxy for signal complexity, and (3) effective alignment of spectral biases across diverse INR architectures.

📋 한 줄 요약

**[INR / 스펙트럼 분석]** Implicit Neural Representation의 주파수 적응을 위한 새 측정 지표 Spectral Energy Centroid(SEC)를 제안하고, 하이퍼파라미터 선택·신호 복잡도 대리치·아키텍처 간 스펙트럼 편향 정렬에 모두 활용 가능함을 입증.

🎯 핵심 기여도

기존 INR 임베딩 튜닝 연구가 모델 깊이의 영향을 고려하지 않았다는 한계를 지적하고, 이를 보정하는 일관된 분석 도구로 Spectral Energy Centroid 정의.
SEC를 활용한 데이터 주도 하이퍼파라미터 선택 전략 SEC-Conf 제안 — 기존 휴리스틱을 능가하고 모델 깊이에 강건.
SEC가 신호 복잡도의 신뢰할 만한 대리치(proxy)로 작동함을 보임.
서로 다른 INR 아키텍처 간의 스펙트럼 편향을 효과적으로 정렬하는 도구로 SEC를 사용할 수 있음을 시연.

💡 핵심 아이디어

MLP의 저주파 편향 때문에 INR은 임베딩 층을 통해 주파수를 신중히 조정해야 하지만, 그 조정은 모델 깊이에 강하게 의존한다. SEC는 타깃 신호의 주파수와 INR의 스펙트럼 편향을 모두 동일 척도로 정량화하여 깊이에 강건한 분석을 가능하게 한다.

🔬 기술적 접근법

**모델/방법론**: MLP 기반 INR을 분석하는 일반 프레임워크로 SEC 메트릭을 도입.
**핵심 기법**: (1) SEC-Conf — 학습 전 타깃 신호의 SEC를 통해 하이퍼파라미터를 데이터 주도적으로 선택, (2) 신호 복잡도 측정용 proxy로 SEC 활용, (3) 다양한 INR 아키텍처 간 스펙트럼 편향을 SEC 기준으로 정렬.

📊 주요 결과

SEC-Conf는 기존 하이퍼파라미터 선택 휴리스틱을 능가하며 모델 깊이 변동에 강건.
SEC가 다양한 신호의 복잡도와 잘 상관됨을 보고.
이질적 INR 아키텍처에서 스펙트럼 편향을 동일 척도로 비교·정렬 가능.

💭 의의 및 한계

**의의**: INR 분야에서 모델 깊이·주파수·신호 복잡도라는 세 축을 통합적으로 다룰 수 있는 표준 측정 도구를 제공해 후속 연구의 비교 기반을 마련. **한계**: 본문에서 다루는 세 가지 응용 외 다른 INR 응용(예: 신경 운영자, 3D scene)에서의 효과는 추가 검증 필요.

🚀 실용적 활용

INR 학습 파이프라인에서 임베딩 하이퍼파라미터를 데이터 주도적으로 자동 설정.
신경 압축·신호 표현 벤치마크에서 신호 복잡도 정량화.
INR 아키텍처 비교 연구에서 공정한 스펙트럼 편향 측정 지표.