Domain Arithmetic: One-Shot VLA Adaptation under Environmental Shifts

Vision-Language-Action (VLA) models often fail to perform the same learned tasks under environmental shifts, such as changes in camera pose and shifts to a different but similar robot (e.g., from Panda to UR5e). Adapting these models to the shifted environment (i.e., target domain) often requires training on multiple demonstrations for each task, which are costly to collect. To reduce the burden of data curation and training, we propose an analogy-based method that adapts VLA models under environmental shifts through weight vector arithmetic with domain-specific information addition, named Domain ARiThmetic (DART). Unlike prior approaches, DART requires collecting only a single demonstration, enabling efficient adaptation. To accurately isolate domain-specific information for addition, DART performs subspace alignment between singular components in weight vectors to filter out noisy components. In both simulated and real-world experiments, DART outperforms existing VLA adaptation methods in one-shot scenarios across diverse visual and embodiment shifts. Code is available at https://github.com/snumprlab/dart.

한 줄 요약

DART는 환경 변화에 대응하는 VLA 모델의 일회성 적응을 위한 가중치 벡터 산술 기반 접근법으로, 단일 데모만으로도 정확한 도메인 벡터를 추출한다.

핵심 기여도

DART는 단일 데모만으로 VLA 모델을 적응시킬 수 있는 가중치 산술 기반 방법을 제안함.
도메인 벡터 추출 시 소스 도메인의 잡음 성분을 제거하기 위해 **서브스페이스 필터링** 및 **서브스페이스 스케일링**을 도입함.
**LIBERO 벤치마크**에서 기존 방법 대비 일회성 데모 기반 적응 성능을 개선함.
**π₀.₅ 및 π₀-FAST** 실험 환경에서 시뮬레이션 및 실제 환경 모두에서 우수한 성능을 보임.

핵심 아이디어

기존 VLA 모델은 환경 변화(예: 카메라 위치 변경, 로봇 바디 변경)에 대응하기 위해 각 작업마다 여러 데모를 필요로 하며, 이는 비용이 많이 드는 작업이다. DART는 **가중치 벡터 산술**을 통해 단일 데모만으로도 환경 변화에 적응할 수 있는 방법을 제안한다. 핵심 아이디어는 **소스 도메인과 타겟 도메인의 업데이트 벡터 간 차이를 계산하여 도메인 특화 정보를 추출**하는 것이다. 이는 **‘queen = king + woman - man’**과 유사한 아날로지 기반 접근법이다.

DART는 업데이트 벡터가 **작업-특화 방향(task-specific directions)**과 **도메인-특화 방향(domain-specific directions)**으로 분해될 수 있다는 관찰을 바탕으로 설계되었다. 이 두 방향은 선형적으로 합성 가능하다는 점이 실험적으로 검증되었으며, 이를 통해 **도메인 벡터를 추출**하고 기존 모델에 적용함으로써 일회성 적응을 가능하게 한다.

기술적 접근법

**DART 알고리즘**:
**도메인 벡터 추출**: 소스 도메인 업데이트 벡터와 타겟 도메인 업데이트 벡터를 뺀 후, 잡음 성분을 제거함.
**서브스페이스 필터링**: 소스와 타겟 업데이트 벡터 간의 **미정렬된 기저 벡터**를 필터링하여 정확한 도메인 벡터 추출.
**서브스페이스 스케일링**: 도메인 벡터의 신뢰도에 따라 **가중치 조정**을 수행함.
**하이퍼파라미터**: DART는 **하이퍼파라미터에 강건**하며, 빠른 적응이 가능함.
**데이터셋**: **LIBERO**, **π₀.₅**, **π₀-FAST** 실험 환경에서 평가됨.
**수치**: **LIBERO**에서 기존 방법 대비 일회성 데모 기반 성능 개선이 관찰됨 (구체적 수치는 명시되지 않음).

주요 결과

**LIBERO 벤치마크**에서 DART는 기존 VLA 적응 방법 대비 **일회성 데모 기반 성능**을 개선함.
**π₀.₅ 및 π₀-FAST** 실험 환경에서 **시뮬레이션 및 실제 환경** 모두에서 우수한 성능을 보임.
**서브스페이스 필터링 및 스케일링**을 적용한 DART는 **잡음 제거와 정확도 향상**에 기여함.
**단일 데모만으로도 다중 작업**에 대한 성능을 유지함 (구체적 수치는 명시되지 않음).

의의 및 한계

DART는 환경 변화에 대응하는 VLA 모델의 **일회성 적응**을 가능하게 하며, **데이터 수집 비용을 크게 절감**할 수 있다. 특히, **서브스페이스 기반 필터링**을 통해 도메인 벡터의 정확도를 높이는 점에서 학술적 의의가 있다. 또한, **하이퍼파라미터에 강건**하고, **다중 타겟 도메인에 확장 가능**하다는 점에서 실용적 가치가 있다.

하지만, DART는 **도메인 벡터 추출에 필요한 업데이트 벡터의 품질**에 의존하며, **소스 도메인 데모의 질이 낮을 경우 성능 저하**가 발생할 수 있다. 또한, **복잡한 환경 변화**에 대한 일반화 능력은 추가 실험을 통해 검증이 필요하다.

실용적 활용

DART는 **가정용 로봇**, **산업 자동화**, **로봇 제조** 등에서 환경 변화에 빠르게 대응해야 하는 상황에 적용 가능하다. 특히, **단일 데모만으로도 정확한 도메인 적응**이 필요한 **실시간 로봇 제어 시스템**에서 유용하다. 또한, **다양한 로봇 바디 간의 교차적응**에도 활용 가능하다.