Synthesizing consistent and coherent long video remains a fundamental challenge. Existing methods suffer from semantic drift and narrative collapse over long horizons. We present A^2RD, an Agentic Auto-Regressive Diffusion architecture that decouples creative synthesis from consistency enforcement. A^2RD formulates long video synthesis as a closed-loop process that synthesizes and self-improves video segment-by-segment through a Retrieve--Synthesize--Refine--Update cycle. It comprises three core components: (i) Multimodal Video Memory that tracks video progression across modalities; (ii) Adaptive Segment Generation that switches among generation modes for natural progression and visual consistency; and (iii) Hierarchical Test-Time Self-Improvement that self-improves each segment at frame and video levels to prevent error propagation. We further introduce LVBench-C, a challenging benchmark with non-linear entity and environment transitions to stress-test long-horizon consistency. Across public and LVBench-C benchmarks spanning one- to ten-minute videos, A^2RD outperforms state-of-the-art baselines by up to 30% in consistency and 20% in narrative coherence. Human evaluations corroborate these gains while also highlighting notable improvements in motion and transition smoothness.
📋 한 줄 요약
**[비디오 생성 · 에이전트]** 검색-합성-정제-갱신 폐루프로 비디오를 세그먼트 단위로 자기 개선하는 Agentic Auto-Regressive Diffusion 구조 A²RD를 제안해 1~10분 장편 비디오에서 일관성 최대 30%·서사 일관성 20% 향상.
🎯 핵심 기여도
- 창의적 합성과 일관성 강제를 분리한 폐루프 에이전트형 자기회귀 디퓨전 구조 A²RD 제시
- 멀티모달 비디오 메모리 + 적응형 세그먼트 생성 + 계층적 테스트타임 자기개선의 3대 컴포넌트 설계
- 비선형 엔티티/환경 전환을 포함한 장기 일관성 평가용 벤치마크 LVBench-C 공개
- 공개·LVBench-C 벤치마크에서 일관성 +30%, 서사 일관성 +20% 달성
💡 핵심 아이디어
장편 비디오 합성은 의미 드리프트와 서사 붕괴로 실패한다. A²RD는 단일 패스 생성 대신 세그먼트별 Retrieve-Synthesize-Refine-Update 사이클을 도입해, 생성된 비디오의 메모리를 검색·반영하고 프레임/비디오 두 레벨에서 자기개선해 오류 누적을 차단한다.
🔬 기술적 접근법
- **모델/방법론**: 자기회귀 디퓨전 + 에이전트형 자기개선 루프 아키텍처
- **핵심 기법**: (i) 모달리티 간 진행을 추적하는 Multimodal Video Memory, (ii) 자연스러운 진행과 시각 일관성을 위해 생성 모드를 전환하는 Adaptive Segment Generation, (iii) 프레임 및 비디오 레벨로 세그먼트를 자기개선해 오류 전파를 막는 Hierarchical Test-Time Self-Improvement
📊 주요 결과
- 공개 벤치마크 및 LVBench-C(1~10분 비디오)에서 SOTA 대비 일관성 최대 +30%, 서사 일관성 +20%
- 인간 평가에서도 일관성·서사 우위 확인 및 모션·전환 자연스러움 개선 보고
- 비선형 엔티티/환경 전환이 포함된 어려운 시나리오에서도 강건성 확인
💭 의의 및 한계
**의의**: 장편 비디오 생성을 단일 패스가 아닌 에이전트형 폐루프 문제로 재정의해 일관성·서사 한계를 정량적으로 개선했다. **한계**: 테스트타임 자기개선 절차로 인한 추가 연산 비용과 추론 지연이 발생하며, 10분 이상의 초장기 비디오로의 확장은 미해결로 남아 있다.
🚀 실용적 활용
- 광고·교육·드라마용 장편 AI 영상 콘텐츠 생성
- 게임/메타버스 컷씬 자동 제작
- 비디오 합성 일관성 평가 벤치마크(LVBench-C) 활용