DarwinX: Evolving Agent Harnesses Through Natural Selection

An LLM agent's capability depends not only on model weights but on its harness: prompts, tools, skills, and control flow. Self-improvement loops already edit harnesses, yet single-lineage search is path-dependent and local wins often regress other tasks. We introduce DarwinX, which treats self-evolution as selection over a population of harnesses with the model frozen: a preserve-and-extend contract admits only variants that extend coverage without regressing, an archive keeps alternative lineages for recombination, and failure-, teacher-, and self-derived evidence share one edit interface. Fitness comes from each benchmark's own verifier: no gold solutions, no hand-picked winners. Across four benchmarks that progressively separate the evolution signal from the test, one loop adds about 17 points on average: Terminal-Bench 2.1 rises +7.7 to 83.2% on a matched base and to the verified frontier at 84.7% on a stronger one; TerminalWorld's held-out split reaches 68.3%, ahead of every off-the-shelf agent; WebArena-Infinity real-task pass@1 rises from 43.5% to 93.0% audit-clean; and a Terminal-Bench 2.1 harness transfers unchanged to SWE-bench Verified. What evolves is general agent competence, not benchmark-specific patches, so it survives changes of task, verifier, and base model. A frozen model need not be a fixed agent: harness selection turns evaluation compute into durable capability.

한 줄 요약

DarwinX는 모델 가중치를 고정한 상태에서 헤이버스를 진화시켜 LLM 에이전트의 일반적 역량을 향상시키는 자연선택 기반 프레임워크이다.

핵심 기여도

DarwinX는 헤이버스 진화를 다중 라인리지 아카이브와 보존-확장 계약을 통해 구현함으로써 단일 라인리지의 경로 의존성을 극복.
헤이버스 편집은 실패, 교사, 자기 유도 증거를 기반으로 하되 모델 가중치는 변경하지 않음.
Terminal-Bench 2.1에서 75.5% → 83.2% (GPT-5.5 기준), WebArena-Infinity에서 pass@1 43.5% → 93.0% 등 4개 벤치마크에서 평균 17점 개선.
헤이버스는 벤치마크 특화 패치가 아닌 일반적 역량을 진화시켜, 다른 벤치마크로 이전 시에도 성능 유지 (예: Terminal-Bench → SWE-bench Verified).

핵심 아이디어

기존의 LLM 에이전트 자가 개선은 단일 라인리지 방식으로 진행되며, 초기 편집에 의존해 쉽게 플랫포인트에 도달하거나 다른 작업에 부정적 영향을 미치는 문제가 있었다. DarwinX는 자연선택을 모방하여, 헤이버스의 진화를 다중 라인리지 아카이브와 보존-확장 계약을 통해 구현한다. 이는 단순히 "가장 좋은" 편집을 유지하는 것이 아니라, 서로 보완적인 전문가 라인리지를 결합할 수 있도록 허용함으로써, 일반화 능력을 높인다. 헤이버스 편집은 실패 유도 진단, 교사 유도 시연, 자기 유도 롤아웃 대비 등 다양한 신호를 기반으로 하되, 모델 가중치는 고정된다.

기술적 접근법

DarwinX는 헤이버스 진화를 위한 세 가지 주요 구성 요소를 포함:

1. **보존-확장 계약**: 자식 헤이버스는 기존 작업을 유지하면서 새로운 작업을 확장해야만 채택됨.
2. **아카이브**: 대안 라인리지를 저장하여 서로 보완적인 전문가를 결합할 수 있도록 함.
3. **편집 신호 인터페이스**: 실패, 교사, 자기 유도 증거를 헤이버스 편집으로 변환.

헤이버스 평가 기준은 각 벤치마크의 자체 검증기에서 측정된 `avg@k` 해결률이며, 금색 솔루션 없이, 수작업으로 선정된 우승자 없이 이루어짐.
모델 가중치는 고정되며, 모든 비교는 동일 모델 기반으로 이루어짐.

주요 결과

**Terminal-Bench 2.1**: GPT-5.5 기준 75.5% → 83.2% (GPT-5.6 Sol 기준 84.7%)
**TerminalWorld**: 25/41 → 28/41 (held-out task)
**WebArena-Infinity**: pass@1 43.5% → 93.0% (invalid trajectories 293 → 17)
**SWE-bench Verified**: Terminal-Bench 2.1 헤이버스 그대로 사용 시 84.2% 달성
DarwinX는 단일 라인리지 방식 대비 평균 17점 개선하며, 벤치마크 간 이전에서도 성능 유지됨.

의의 및 한계

DarwinX는 모델 가중치를 고정한 상태에서도 에이전트의 일반적 역량을 지속적으로 향상시킬 수 있음을 보여준다. 이는 평가 계산을 지속 가능한 능력으로 전환하는 새로운 패러다임을 제시한다. 특히, 보존-확장 계약과 아카이브 기반의 다중 라인리지 진화는 기존의 단일 라인리지 방식의 한계를 극복한다. 그러나 실험은 전체 시스템을 기준으로 진행되었기 때문에, 아카이브, 부모 선택기, 병합 연산자의 개별 영향은 분리되어 있지 않다. 또한, 최고 성능을 보이는 두 가지 행동(검증 후 최종화, 계약 인식 도구 사용)은 가능성 설명이지 인과 관계를 증명하지는 않는다.

실용적 활용

DarwinX는 모델 재훈련 없이도 에이전트의 헤이버스를 지속적으로 진화시키므로, 모델 배포 후에도 지속적인 성능 개선이 필요한 산업 현장에서 유용하게 활용될 수 있다. 특히, 다양한 작업 분포를 처리해야 하는 자동화 시스템, 고객 지원 에이전트, 소프트웨어 개발 도구 등에서 적용 가능하다.