One Model, Many Latencies: Universal Speech Enhancement for Diverse Real-Time Applications

Szu-Wei Fu, Rong Chao, Xuesong Yang, Sung-Feng Huang, Ante Jukić, Yu Tsao, Yu-Chiang Frank Wang

arXiv:2606.25621 · 2026-06-30 공개 · arXiv · PDF

real-time early-exit two-stage-training look-ahead-frames parallel-convolution universal-model speech-enhancement latency-control

Abstract

Different real-time speech applications impose distinct latency budgets, often requiring separately trained enhancement models for each scenario. In this paper, we propose a one-for-all, real-time universal speech enhancement model that provides explicit control over both algorithmic and computational latency. Algorithmic latency is flexibly adjusted via configurable look-ahead frames. To avoid learning inefficiency caused by varying padding configurations, we introduce parallel convolutional layers corresponding to different look-ahead settings. Computational latency is controlled through an early-exit mechanism, enabling inference at different network depths. To narrow the performance gap between specialized and flexible models, we propose a two-stage training strategy with a shared-to-multiple decoder transition. Overall, the proposed framework enables a single model to be deployed across diverse latency budgets without retraining separate models.

한국어 요약

한 줄 요약

단일 모델로 다양한 실시간 음성 향상 작업을 지원하는 유니버설 모델을 제안한다.

핵심 기여도

핵심 아이디어

실시간 음성 향상 작업에서 각각의 응용 시나리오가 다른 지연 제약을 요구하므로, 개별 모델을 학습하는 것은 비효율적이다. 본 연구는 단일 모델이 다양한 지연 예산에 대응할 수 있도록, 알고리즘 지연과 계산 지연을 명시적으로 제어할 수 있는 구조를 설계했다. look-ahead 프레임을 조절함으로써 알고리즘 지연을 유연하게 조정할 수 있으며, 이에 따라 입력 패딩 설정의 변화로 인한 학습 비효율성을 방지하기 위해 병렬 컨볼루션 레이어를 도입했다. 또한, early-exit 메커니즘을 통해 네트워크 깊이에 따라 추론을 조기에 종료함으로써 계산 지연을 조절한다.

기술적 접근법

주요 결과

의의 및 한계

본 연구는 실시간 음성 향상 분야에서 모델의 유연성과 성능을 동시에 확보하는 새로운 접근법을 제시한다. 특히, 다양한 지연 예산을 요구하는 응용 환경에서 단일 모델로의 통합이 가능해져, 모델 관리 및 배포 비용을 절감할 수 있다. 그러나, 병렬 컨볼루션 레이어와 early-exit 메커니즘은 모델 복잡도를 증가시키며, 이는 메모리 사용량 증가나 추론 시간의 불확실성으로 이어질 수 있다. 또한, 특정 응용에서 전용 모델보다 성능이 낮을 가능성도 존재한다.

실용적 활용

본 모델은 통화, 음성 인식, 원격 회의 등 다양한 실시간 음성 처리 시스템에 적용 가능하다. 특히, 다양한 지연 제약을 요구하는 IoT 기기나 모바일 애플리케이션에서 유용하게 사용될 수 있다.