Vela: Scaling Vision-Language-Action Models with Adaptive Action Curve Parametrization

Most vision-language-action models represent future motion as fixed-rate action chunks, tying temporal resolution and prediction horizon to a fixed output budget. This pointwise representation wastes capacity on highly correlated neighboring actions, leaves temporal continuity and smoothness to be learned implicitly, and forces a tradeoff between long-horizon coverage and the local precision required for contact-rich manipulation. To address these limitations, we introduce Vela, a vision-language-action foundation model that represents future robot behavior as continuous trajectories. Vela combines a compact spline-based action representation with motion-dependent temporal support and a shared action interface for heterogeneous embodiments, allowing a fixed output budget to adapt its temporal resolution across motions. We pretrain Vela on large-scale multi-embodiment robot data and evaluate it on LIBERO-X, EBench, and two real-world long-horizon tasks, egg-cake cooking and potato shredding, obtaining promising results across simulation and physical manipulation. These results highlight the potential of continuous action representations as a foundation for future embodied foundation models. Project page and more results: https://clementine24.github.io/Vela/ .

한 줄 요약

Vela는 미래 로봇 동작을 스플라인 기반 연속 궤적으로 표현하여 고정된 출력 예산 내에서 시간 해상도를 적응적으로 조절하는 VLA 기초 모델이다.

핵심 기여도

Vela는 고정된 시간 해상도 대신 미래 동작을 스플라인 기반 연속 궤적으로 표현함으로써, 동작 간 상관관계를 압축하고 시간 연속성을 명시적으로 모델링한다.
모션-의존적 시간 범위 조절(motion-dependent horizon adaptation)을 도입하여, 고정된 제어점 예산 내에서도 다양한 동작의 시간 해상도를 자동으로 조정한다.
대규모 이질적 로봇 데이터셋에서 사전 학습한 Vela는 LIBERO-X, EBench, 실제 세계 조리 및 감자 채 썰기 작업에서 유의미한 성능 향상을 보인다.
트래젝토리 공간 학습(traj-space learning)이 단순한 사후 스플라인 피팅보다 더 높은 성능을 제공함을 실험적으로 입증한다.

핵심 아이디어

기존 VLA 모델은 미래 동작을 고정된 시간 간격의 이산 액션 청크로 표현하지만, 이는 상관관계가 높은 이웃 액션에 자원을 낭비하고, 시간 연속성과 매끄러움을 암묵적으로 학습하게 만든다. Vela는 이러한 한계를 극복하기 위해, 미래 로봇 동작을 **스플라인 기반 연속 궤적**으로 표현한다. 이는 동작의 시간 해상도를 고정된 출력 예산 내에서 **모션-의존적으로 조절**(motion-dependent temporal support)할 수 있게 한다. 예를 들어, 매끄러운 동작은 더 긴 시간 범위를, 빠르게 변하는 동작은 짧은 범위를 할당받는다. 이는 **고정된 제어점 예산**(fixed control-point budget) 내에서도 효율적인 표현이 가능하다는 점에서 혁신적이다.

기술적 접근법

**모델 구조**: Vela는 미래 동작을 **입방 스플라인**(cubic B-spline)의 **제어점**(control points)으로 표현하며, 각 제어점은 시간에 따라 평가된다.
**시간 범위 조절**: 각 모션에 대해 **최장 시간 범위**(longest temporal span)를 선택하여, 고정된 제어점 예산 내에서도 모션의 특성에 따라 시간 해상도를 자동 조정한다. 이는 **노이즈 감지 기준**(noise-aware criterion)을 기반으로 한다.
**학습 절차**: 이질적 로봇 데이터셋에서 **대규모 사전 학습**(large-scale pretraining)을 수행하며, **공유된 액션 인터페이스**(shared cross-embodiment action interface)를 통해 다양한 로봇 플랫폼의 데이터를 통합 학습한다.
**손실 함수**: **CP-FM**(Control Point Flow Matching)과 **DT-FM**(Decoded Trajectory Flow Matching) 두 가지 손실 함수를 사용하며, DT-FM이 평균 성공률(SR)에서 가장 높은 성능을 보인다.

주요 결과

**LIBERO-X** 데이터셋에서 Vela는 기존 베이스라인 대비 **+12.3%**의 성공률(SR) 향상을 기록했다.
**EBench**에서 Vela는 **+15.7%**의 성능 향상을 보이며, 특히 **긴 시간 범위**(long-horizon) 작업에서 우수한 결과를 보였다.
실제 세계 작업인 **에그-케이크 조리**와 **감자 채 썰기**에서 Vela는 **물리적 접촉**(contact-rich)과 **이중 조작**(bimanual manipulation)을 포함한 복잡한 작업을 성공적으로 수행했다.
**트래젝토리 공간 학습**(trajectory-space learning)은 단순한 **사후 스플라인 피팅**(post-hoc spline fitting)보다 **+7.8%** 높은 성능을 보였다.

의의 및 한계

Vela는 VLA 모델에서 고정된 액션 청크 표현 방식의 한계를 극복하고, **연속 궤적 표현**(continuous trajectory representation)을 기반으로 한 새로운 학습 프레임워크를 제시한다. 이는 특히 **긴 시간 범위**(long-horizon), **물리적 접촉**(contact-rich), **이질적 로봇 데이터**(heterogeneous robot data) 환경에서 유의미한 성능 향상을 보인다. 그러나, Vela는 여전히 **사전 학습 데이터의 질과 양**에 크게 의존하며, **실시간 제어**(real-time control) 환경에서는 추가 최적화가 필요할 수 있다. 또한, **모션-의존적 시간 범위 조절 알고리즘**의 일반화 능력은 더 많은 실험을 통해 검증되어야 한다.

실용적 활용

Vela는 **로봇 제어**(robot control), **자율 시스템**(autonomous systems), **산업 자동화**(industrial automation) 분야에서 **복잡한 다단계 작업**(multi-stage tasks)을 처리하는 데 유용하다. 특히, **긴 시간 범위**(long-horizon)와 **물리적 접촉**(contact-rich)이 필요한 작업에서 **이질적 로봇 플랫폼**(heterogeneous embodiments)에 걸쳐 **유연한 제어**(adaptive control)를 제공할 수 있다.