ASPIRE: Agentic /Skills Discovery for Robotics

Traditional robot programming is challenging: it requires orchestrating multimodal perception, managing physical contact dynamics, and handling diverse configurations and execution failures. We introduce ASPIRE (Agentic Skill Programming through Iterative Robot Exploration), a continual learning system that autonomously writes and refines robot control programs in a code-as-policy paradigm while compounding experience into a reusable skill library. ASPIRE discovers skills that persist across tasks, simulation and real-world settings, and embodiments. It operates in an open-ended loop with three components: (1) a closed-loop robot execution engine that exposes fine-grained multimodal traces, enabling autonomous failure diagnosis, repair synthesis, and validation; (2) a continually expanding skill library that distills validated fixes into reusable, transferable knowledge; and (3) evolutionary search that generates diverse task sequences and control programs to explore beyond single-trajectory refinement. ASPIRE surpasses prior methods by up to 77% on LIBERO-Pro manipulation under perturbation, 72% on Robosuite bimanual handover, and 32% on BEHAVIOR-1K long-horizon household tasks. Its accumulated library also enables zero-shot generalization to unseen long-horizon tasks: on LIBERO-Pro Long, ASPIRE achieves 31% success versus 4% for prior methods despite their use of test-time reasoning and retries. Finally, simulation-discovered skills provide initial evidence of sim-to-real transfer, substantially reducing real-robot programming effort across different embodiments and robot APIs.

한 줄 요약

ASPIRE는 로봇 제어 프로그램을 자동으로 작성하고 개선하는 시스템으로, 재사용 가능한 스킬 라이브러리를 통해 다양한 환경에서 성능을 향상시킨다.

핵심 기여도

ASPIRE는 **closed-loop robot execution engine**을 통해 세부적인 멀티모달 추적 정보를 기록하고 실패 원인을 자동으로 진단·수정한다.
**skill library**를 통해 검증된 수정 사항을 재사용 가능한 스킬로 저장하고, 이를 향후 작업에 적용한다.
**evolutionary search**를 통해 다양한 작업 시퀀스와 제어 프로그램을 생성하여 단일 트레이젝토리 개선을 넘어선 탐색을 수행한다.
LIBERO-Pro, Robosuite, BEHAVIOR-1K 등 다양한 벤치마크에서 기존 방법 대비 최대 77% 성능 향상.

핵심 아이디어

ASPIRE는 로봇 프로그래밍을 코드-로서-정책(code-as-policy) 패러다임으로 접근하여, 인간 엔지니어의 디버깅 방식을 모방한다. 기존 시스템은 작업 완료 후 발견된 해결책을 버리지만, ASPIRE는 실패 원인을 멀티모달 추적 정보를 통해 정확히 진단하고, 이를 **skill library**에 저장하여 향후 작업에 재사용한다. 이는 로봇이 경험을 쌓을수록 점점 더 빠르게 새로운 작업에 적응할 수 있도록 한다.

또한, ASPIRE는 단일 트레이젝토리 개선에 머무르지 않고, **evolutionary search**를 통해 다양한 작업 시퀀스와 제어 프로그램을 생성함으로써 보다 광범위한 탐색을 수행한다. 이는 단순한 반복 학습을 넘어, 시스템이 스스로 실험하고 개선하는 방식을 구현한다.

기술적 접근법

**closed-loop robot execution engine**: 각각의 감지, 계획, 그립, 제어 호출 시 관측값, 입력, 출력, 시각적 증거를 기록하여 실패 원인을 정밀하게 진단.
**skill library**: 검증된 수정 사항을 재사용 가능한 스킬로 저장. 향후 작업에서 **in-context guidance**로 활용.
**evolutionary search**: 다양한 작업 시퀀스와 제어 프로그램을 생성하여 단일 트레이젝토리 개선을 넘어 탐색 확장.
**coordinator–actor architecture**: 중앙 coordinator가 skill library 관리, 개별 actor가 작업별로 프로그램 작성·실행·수정.

주요 결과

**LIBERO-Pro** 조작 작업에서 기존 방법 대비 최대 **77% 성능 향상**.
**Robosuite** 이중 손 인계 작업에서 **72% 성능 향상**.
**BEHAVIOR-1K** 장기적 주택 작업에서 **32% 성능 향상**.
**LIBERO-Pro Long**에서 **31% 성공률** 달성 (기존 방법: 4%) → zero-shot 전이 성능.
시뮬레이션에서 발견된 스킬이 실제 로봇으로 전이 가능 → 실질적인 **sim-to-real transfer** 증거.

의의 및 한계

ASPIRE는 로봇 프로그래밍에서 경험을 쌓아 재사용 가능한 지식을 형성하는 방식을 제시하며, 기존 시스템이 작업별로 독립적으로 작동하는 한계를 극복한다. 특히, **skill library**를 통해 향후 작업에 지속적으로 활용할 수 있는 지식을 축적하는 점이 학술적·실용적 가치를 높인다. 또한, **evolutionary search**를 통해 단일 트레이젝토리 개선을 넘어 광범위한 탐색이 가능하다는 점에서 기존 방법과 차별화된다.

하지만, ASPIRE는 아직 **real-world 로봇 API 간 차이**를 완전히 극복하지 못하며, **sim-to-real transfer**의 확장성은 추가 실험을 통해 검증이 필요하다. 또한, **zero-shot 전이 성능**은 일부 특정 작업에서 높은 성능을 보이지만, 일반화 가능성에 대한 추가 연구가 필요하다.

실용적 활용

ASPIRE는 다양한 로봇 작업 환경에서 자동 프로그래밍 및 디버깅을 지원할 수 있어, **로봇 제조, 물류, 가정용 로봇** 등에서 활용 가능하다. 특히, **sim-to-real transfer** 기능은 실제 로봇 프로그래밍 비용을 줄이고, 다양한 로봇 API 간의 호환성을 향상시킬 수 있다.