Trace: A Taxonomy-Guided Environment for Multidomain Visual Reasoning

Reinforcement learning with verifiable rewards (RLVR) has substantially improved language-model reasoning, yet its extension to vision-language models remains constrained by the lack of training data that are simultaneously broad, exactly verifiable, and reproducible. We introduce Trace, a taxonomy-guided environment for multidomain visual reasoning. Trace factorizes task construction into a scene grammar and an executable task program, separating visual realization from answer computation. A shared semantic state determines the rendered image, prompt, typed answer, verifier state, and replayable instance trace. The resulting environment comprises 1,000 tasks over 277 scene grammars and 11 visual domains, with controlled semantic and visual variation. RLVR on 64,000 Trace instances improves the macro-average across 24 external benchmarks by 3.51 percentage points for Qwen2.5-VL-3B and 4.06 points for Qwen2.5-VL-7B, providing evidence that broad procedural training can transfer beyond the generated task distributions. Project page: https://maveryn.github.io/trace/.

한 줄 요약

Trace는 다영역 시각 추론을 위한 세분화된 프로그램 중심 환경으로, 24개 외부 벤치마크에서 Qwen2.5-VL-3B와 7B 모델의 성능을 각각 3.51%와 4.06% 개선한다.

핵심 기여도

프로그램 중심 세분화 택소노미: 1,000개 태스크, 277개 시나리오 문법, 11개 시각 도메인을 구분.
실행 가능한 생성-렌더링-검증 환경: 공유 의미 상태를 기반으로 이미지, 프롬프트, 타입화된 답변, 검증 상태, 인스턴스 추적을 생성.
64,000개 Trace 인스턴스 기반 RLVR 실험: 24개 외부 벤치마크의 매크로 평균 성능을 Qwen2.5-VL-3B 기준 3.51%, 7B 기준 4.06% 향상.
정확한 검증과 재현 가능성을 보장하는 구조: 의미와 시각적 변이를 유지하면서도 일관된 태스크 식별.

핵심 아이디어

Trace는 시각-언어 모델의 추론 능력을 향상시키기 위해, **scene grammar**와 **executable task program**로 태스크를 분리하는 새로운 접근법을 제시한다. 이는 시각적 표현과 추론 계산을 분리함으로써, **정확한 검증**과 **재현 가능성**을 동시에 달성한다.

기존 연구는 데이터셋 혼합이나 단일 문법 기반 생성에 제한되었으나, Trace는 **bounded query variation**을 도입하여 의미 있는 인수 변경(예: 극값 방향)을 반영하면서도 새로운 태스크를 생성하지 않도록 설계되었다. 이는 CLEVR과 Task Me Anything의 구조적 표현과 실행 가능한 질문 프로그램을 기반으로 한다.

핵심 통찰은 **정확한 검증**과 **제어된 변이**를 결합한 환경이, 단일 도메인에서 생성된 인스턴스를 넘어 **다양한 시각 추론 벤치마크**로의 전이를 가능하게 한다는 점이다.

기술적 접근법

**Scene Grammar**: 객체, 관계, 레이아웃 패밀리를 정의.
**Task Program**: 추론 계산과 답변 유형을 명시.
**Reward Contract**: 정확한 검증 기준을 정의.
**Shared Semantic State**: 렌더링된 이미지, 프롬프트, 타입화된 답변, 검증 상태, 인스턴스 추적을 생성.
**Bounded Query Variation**: 의미 있는 인수 변경을 반영.
**64,000개 Trace 인스턴스**를 기반으로 Qwen2.5-VL-3B와 7B 모델을 RLVR 방식으로 훈련.

주요 결과

Qwen2.5-VL-3B: 24개 외부 벤치마크에서 매크로 평균 성능이 3.51% 향상 (21개 벤치마크에서 평균 개선).
Qwen2.5-VL-7B: 24개 외부 벤치마크에서 매크로 평균 성능이 4.06% 향상 (모든 벤치마크에서 평균 개선).
Trace 환경은 1,000개 태스크, 277개 scene grammar, 11개 시각 도메인을 포함하며, 의미와 시각적 변이를 제어하면서도 일관된 태스크 식별을 유지.

의의 및 한계

Trace는 **정확한 검증**과 **제어된 변이**를 결합한 환경을 제공함으로써, 기존 데이터셋 혼합 및 단일 문법 기반 생성의 한계를 극복한다. 이는 시각-언어 모델의 추론 능력 향상에 기여하며, **다양한 시각 추론 도메인으로의 전이** 가능성을 입증한다.

그러나 Trace는 **인공적으로 생성된 환경**이므로, 실제 세계 시각 데이터와의 일반화 가능성은 추가 연구가 필요하다. 또한, **11개 시각 도메인**만 포함하므로, 더 넓은 범위의 시각적 상황을 다루는 확장이 요구된다.

실용적 활용

Trace는 시각-언어 모델의 추론 능력을 향상시키는 **교육 및 연구 환경**으로 활용 가능하다. 특히, **수학, 공간 추론, 추상적 인지** 등 정확한 답변이 필요한 분야에서 유용하며, **AI 모델 훈련 데이터 생성** 및 **정확한 성능 평가**에 기여할 수 있다.