TimeMixer: Decomposable Multiscale Mixing for Time Series Forecasting

Time series forecasting is widely used in extensive applications, such as traffic planning and weather forecasting. However, real-world time series usually present intricate temporal variations, making forecasting extremely challenging. Going beyond the mainstream paradigms of plain decomposition and multiperiodicity analysis, we analyze temporal variations in a novel view of multiscale-mixing, which is based on an intuitive but important observation that time series present distinct patterns in different sampling scales. The microscopic and the macroscopic information are reflected in fine and coarse scales respectively, and thereby complex variations can be inherently disentangled. Based on this observation, we propose TimeMixer as a fully MLP-based architecture with Past-Decomposable-Mixing (PDM) and Future-Multipredictor-Mixing (FMM) blocks to take full advantage of disentangled multiscale series in both past extraction and future prediction phases. Concretely, PDM applies the decomposition to multiscale series and further mixes the decomposed seasonal and trend components in fine-to-coarse and coarse-to-fine directions separately, which successively aggregates the microscopic seasonal and macroscopic trend information. FMM further ensembles multiple predictors to utilize complementary forecasting capabilities in multiscale observations. Consequently, TimeMixer is able to achieve consistent state-of-the-art performances in both long-term and short-term forecasting tasks with favorable run-time efficiency.

한 줄 요약

TimeMixer는 다중 스케일 분해와 혼합을 통해 시계열 예측 성능을 향상시키는 MLP 기반 모델이다.

핵심 기여도

다중 스케일 혼합(multiscale-mixing)이라는 새로운 관점에서 시계열 예측 접근.
Past-Decomposable-Mixing (PDM)과 Future-Multipredictor-Mixing (FMM) 모듈을 통해 과거 추출과 미래 예측 단계에서 다중 스케일 정보를 활용.
다양한 벤치마크에서 장기 및 단기 예측 모두에서 SOTA 성능 달성.
전체적으로 MLP 기반 구조로 빠른 실행 효율 보장.

핵심 아이디어

기존 시계열 예측 연구는 주로 단순 분해(decomposition)와 다주기 분석(multiperiodicity analysis)을 통해 복잡한 패턴을 다루었으나, TimeMixer는 시계열이 다양한 샘플링 스케일에서 서로 다른 패턴을 보인다는 관찰에 기반한 새로운 다중 스케일 혼합(multiscale-mixing) 접근법을 제안한다. 이는 미시적 정보(예: 계절성)가 세부 스케일에서, 거시적 정보(예: 추세)가 거친 스케일에서 반영된다는 통찰에서 비롯된다. TimeMixer는 PDM 모듈을 통해 과거 데이터에서 계절성과 추세를 분리하고, 세부에서 거친 방향과 거친에서 세부 방향으로 별도로 혼합함으로써 정보를 누적한다. FMM 모듈은 미래 예측 단계에서 여러 예측기를 앙상블하여 다중 스케일 관측의 보완적인 예측 능력을 활용한다.

기술적 접근법

**모델 구조**: MLP 기반의 TimeMixer.
**PDM (Past-Decomposable-Mixing)**: 다중 스케일 시계열에 분해를 적용하고, 계절성과 추세 성분을 세부→거친, 거친→세부 방향으로 별도 혼합.
**FMM (Future-Multipredictor-Mixing)**: 다중 예측기를 앙상블하여 보완적인 예측 능력 활용.
**다운샘플링**: 평균 다운샘플링을 통해 다중 스케일 관측 생성.
**하이퍼파라미터**: 학습률은 10⁻² 또는 10⁻³, 옵티마이저는 ADAM, 배치 사이즈는 8~128 사이.
**스케일 수 (M)**: 장기 예측 시 M=3, 단기 예측 시 M=1로 설정.

주요 결과

**데이터셋**: 18개의 실제 세계 벤치마크에서 실험.
**성능**: 장기 및 단기 예측 모두에서 SOTA 성능 달성.
**실행 효율**: 전체 MLP 기반 구조로 빠른 실행 속도 보장.
**스케일 수 실험**: M=3일 때 장기 예측 성능 개선, M=1일 때 단기 예측 효율 향상.

의의 및 한계

TimeMixer는 기존 분해 및 주기 분석 기반 모델의 한계를 극복하고, 다중 스케일 정보를 효과적으로 활용하는 새로운 접근법을 제시한다. 특히, PDM과 FMM 모듈은 시계열의 복잡한 변동성을 해소하면서도 예측 정확도를 높이는 데 기여한다. 그러나, 스케일 수(M)가 증가할수록 성능 향상 폭이 감소하며, 이는 더 긴 예측 길이에서만 유의미한 개선을 보인다. 또한, 모델은 다중 스케일 혼합 방향에 민감하며, 잘못된 혼합 방식은 성능 저하를 초래할 수 있다.

실용적 활용

TimeMixer는 교통량 예측, 날씨 예보, 에너지 수요 예측 등 다양한 실시간 시계열 분석 분야에 적용 가능하다. 특히, 복잡한 패턴을 가진 시계열 데이터를 다루는 산업 현장에서 높은 예측 정확도와 실행 효율을 요구하는 상황에 적합하다.