Recursive Environment Scaling for General Long-Horizon Agents

We study environment scaling as a way to increase agent-benchmark difficulty while holding core task objectives fixed. Our framework, Recursive Environment Scaling (RES), transforms existing benchmark environments while preserving their objectives and completion requirements. A proposer changes information access, resource relations, and execution dependencies; execution-grounded checks validate the resulting candidate, and accepted changes are inherited across rounds. This produces related environments for paired evaluation and training-trajectory collection. Experiments on 294 initial tasks from three benchmarks show lower task success for all six evaluation models, with decreases of 57.14--77.14 percentage points on Claw-Eval-Live. With equal trajectory counts and identical optimization settings, fine-tuning on RES trajectories outperforms original-trajectory SFT in all nine model--benchmark comparisons by 7.00--14.61 percentage points. Ablations identify recursive inheritance and dependency composition as important contributors to increased difficulty. Together, these results support environment scaling for both agent evaluation and training.

한 줄 요약

Recursive Environment Scaling(RES)은 기존 벤치마크 환경을 변형해 에이전트 평가와 학습을 강화하는 프레임워크로, Claw-Eval-Live에서 77.14% 성능 하락을 유도한다.

핵심 기여도

RES는 기존 환경의 핵심 목표를 유지하면서 정보 접근, 자원 관계, 실행 의존성을 변형함으로써 평가 난이도를 증가시킨다.
294개 초기 태스크에서 6개 모델의 성공률이 57.14–77.14% 감소했으며, RES 학습 데이터로 미세조정 시 7.00–14.61% 성능 향상이 관찰되었다.
재귀적 상속(recursive inheritance)과 의존성 구성(dependency composition)이 난이도 증가에 중요한 기여를 했다는 것을 실험적으로 밝혔다.

핵심 아이디어

기존 연구는 주로 태스크 생성이나 환경 합성에 집중했지만, RES는 기존 벤치마크 환경을 변형하면서 핵심 목표와 완료 조건을 유지하는 새로운 접근법을 제시한다. RES는 **proposer**가 자원과 실행 의존성을 변형하고, **execution-grounded checks**가 변형 후 환경의 유효성을 검증하며, 승인된 변화는 다음 라운드로 **재귀적으로 상속**된다. 이는 환경의 복잡도를 점진적으로 증가시키며, 에이전트가 동일한 목표를 달성하기 위해 더 많은 상호작용과 계획을 요구하게 만든다.

기술적 접근법

**proposer**: 정보 접근, 자원 관계, 실행 의존성을 변형하는 프로그래밍적 변형을 생성.
**execution-grounded checks**: 변형 후 환경이 실행 가능한지, 원래 태스크의 완료 조건을 유지하는지 검증.
**recursive inheritance**: 승인된 변화는 다음 라운드로 상속되어, 점진적인 복잡도 증가를 유도.
**Claw-Eval-Live**, **AgentBench**, **OSWorld** 등 3개 벤치마크에서 294개 초기 태스크를 사용.
**DeepSeek-V4.1-Flash**, **Qwen3.5 Base** 등 6개 모델로 평가, 50-turn 제한, 최대 16,384 토큰 출력.

주요 결과

Claw-Eval-Live에서 DeepSeek-V4.1-Flash의 성공률이 82.86%에서 5.71%로 감소.
3개 Qwen3.5 Base 모델에서 RES 학습 데이터를 사용한 미세조정(SFT)이 원본 데이터 대비 7.00–14.61% 성능 향상.
3개 벤치마크, 6개 모델에서 RES 환경의 평가 성공률이 모두 감소.

의의 및 한계

RES는 기존 벤치마크 환경을 변형하면서 핵심 목표를 유지함으로써, 에이전트 평가와 학습의 새로운 차원을 제공.
재귀적 상속과 의존성 구성이 난이도 증가에 기여함을 실험적으로 입증.
한계로는 RES가 특정 벤치마크에만 적용되었으며, 다양한 도메인에서의 일반화 가능성은 추가 연구가 필요.

실용적 활용

RES는 에이전트 평가 시 난이도 조절을 위한 유용한 도구로, 특히 장기적 의사결정이 필요한 워크플로우나 시스템 테스트에 활용 가능.
학습 데이터 생성에도 효과적이며, 기존 데이터셋의 활용도를 높이는 방식으로 산업 및 연구 현장에서 채택 가능.