SANA-WM: Efficient Minute-Scale World Modeling with Hybrid Linear Diffusion Transformer

We introduce SANA-WM, an efficient 2.6B-parameter open-source world model natively trained for one-minute generation, synthesizing high-fidelity, 720p, minute-scale videos with precise camera control. SANA-WM achieves visual quality comparable to large-scale industrial baselines such as LingBot-World and HY-WorldPlay, while significantly improving efficiency. Four core designs drive our architecture: (1) Hybrid Linear Attention combines frame-wise Gated DeltaNet (GDN) with softmax attention for memory-efficient long-context modeling. (2) Dual-Branch Camera Control ensures precise 6-DoF trajectory adherence. (3) Two-Stage Generation Pipeline applies a long-video refiner to stage-1 outputs, improving quality and consistency across sequences. (4) Robust Annotation Pipeline extracts accurate metric-scale 6-DoF camera poses from public videos to yield high-quality, spatiotemporally consistent action labels. Driven by these designs, SANA-WMdemonstrates remarkable efficiency across data, training compute, and inference hardware: it uses only $\sim$213K public video clips with metric-scale pose supervision, completes training in 15 days on 64 H100s, and generates each 60s clip on a single GPU; its distilled variant can be deployed on a single RTX 5090 with NVFP4 quantization to denoise a 60s 720p clip in 34s. On our one-minute world-model benchmark, SANA-WM demonstrates stronger action-following accuracy than prior open-source baselines and achieves comparable visual quality at $36\times$ higher throughput for scalable world modeling.

📋 한 줄 요약

**[월드 모델 / 효율 비디오 생성]** 720p·1분 길이 비디오를 단일 GPU에서 정밀한 카메라 제어와 함께 생성하는 2.6B 오픈소스 월드 모델 SANA-WM 공개.

🎯 핵심 기여도

산업용 대규모 베이스라인(LingBot-World, HY-WorldPlay)에 필적하는 시각 품질을 훨씬 적은 자원으로 달성한 2.6B 파라미터 오픈소스 월드 모델 제시.
frame-wise Gated DeltaNet(GDN)과 softmax attention을 결합한 Hybrid Linear Attention으로 메모리 효율적 장기 컨텍스트 모델링.
6-DoF 궤적을 정확히 따르게 하는 Dual-Branch Camera Control 도입.
약 213K 공개 비디오 클립과 64 H100·15일 학습으로 1분 비디오 생성 가능, 단일 GPU에서 60초 클립 생성 가능 — 자원 효율의 새로운 기준 제시.

💡 핵심 아이디어

선형 어텐션의 메모리 효율과 softmax 어텐션의 표현력을 프레임 단위로 결합하면 분 단위 비디오에서도 OOM 없이 풍부한 컨텍스트를 다룰 수 있다. 카메라 제어는 별도 브랜치로 분리해 시각 품질과 궤적 정확도를 동시에 잡는다.

🔬 기술적 접근법

**모델/방법론**: 2.6B 파라미터 Hybrid Linear Diffusion Transformer + dual-branch camera control + 2단계 생성 파이프라인(긴 비디오 refiner).
**핵심 기법**: Gated DeltaNet과 softmax attention의 frame-wise hybrid, 공공 비디오에서 metric-scale 6-DoF camera pose를 추출하는 강건 annotation 파이프라인, NVFP4 양자화로 RTX 5090 단일 GPU 배포.

📊 주요 결과

약 213K 공개 비디오 클립만으로 학습, 64 H100·15일 소요.
60초 클립 생성: 단일 GPU 가능.
양자화된 distilled variant: RTX 5090에서 60초 720p 클립을 34초에 denoise.
1분 월드 모델 벤치마크: 기존 오픈소스 대비 action-following 정확도 우위, 시각 품질 동등하며 처리량 36배.

💭 의의 및 한계

**의의**: 분 단위 월드 모델을 학계·소규모 팀이 실험·배포할 수 있는 자원 구간으로 끌어내림. **한계**: 213K 비디오 규모는 산업 모델 대비 여전히 제한적, 매우 정밀한 물리 일관성·장기 객체 영속성 검증은 추가 필요.

🚀 실용적 활용

게임 엔진·시뮬레이션의 비주얼 백엔드로 활용.
로봇 정책 학습용 신경 시뮬레이터.
영상 콘텐츠 제작에서 카메라 제어 가능한 생성 도구.