multi-agent-systems qwen3-8b test-time-evolution asymmetric-transfer coevolution team-formation population-dynamics competition-math
Abstract
We argue that multi-agent test-time evolution is not single-agent evolution replicated N times. A single-agent learner can only evolve its own context and memory. A multi-agent system additionally evolves who collaborates, how they collaborate, and how knowledge flows across the population. These components have no single-agent counterpart and can produce phenomena such as emergent specialization. Yet prior test-time methods either confine experiences to individual agents, forfeiting cross-agent learning, or broadcast symmetrically to all agents, erasing the specialization that makes collaboration valuable. We present EVOCHAMBER, a training-free framework that instantiates test-time evolution at three levels over a coevolving agent pool. At its core is CODREAM (Collaborative Dreaming), a post-task protocol triggered on team failure or disagreement, in which agents collaboratively reflect, distill insights, and route them asymmetrically from strong to weak agents on the failed niche, preserving specialization while filling knowledge gaps. Team-level operators assemble niche-conditioned teams and select collaboration structures online. Population-level lifecycle operators fork, merge, prune, and seed agents under performance pressure. On three heterogeneous task streams with Qwen3-8B, EVOCHAMBER reaches 63.9% on competition math, 75.7% on code, and 87.1% on multi-domain reasoning, outperforming the best baseline by 32% relative on math and confirming asymmetric cross-agent transfer as the primary driver in ablation. Starting from several identically initialized agents, four to five stable niche specialists spontaneously emerge, a structural signature of multi-agent evolution that no single-agent learner can express. See our code at: https://github.com/Mercury7353/EvoChamber
한국어 요약
📋 한 줄 요약
**[멀티에이전트 시스템 / 테스트 타임 진화]** 개인·팀·집단 세 수준에서 테스트 타임에 공진화(co-evolution)하는 학습-프리 멀티에이전트 프레임워크 EVOCHAMBER 제안.
🎯 핵심 기여도
- 멀티에이전트 테스트 타임 진화가 "단일 에이전트 진화를 N번 복제한 것"이 아니라 협업 구조·지식 흐름까지 진화하는 별개 문제임을 정식화.
- 실패·불일치 시 강한 에이전트에서 약한 에이전트로 비대칭 지식 전이를 수행하는 CODREAM(Collaborative Dreaming) 프로토콜 설계.
- niche-conditioned 팀 구성과 협업 구조 선택을 수행하는 팀 수준 연산자 + fork·merge·prune·seed 같은 lifecycle 연산자 도입.
- Qwen3-8B 기반 3개 이종 태스크 스트림에서 best baseline 대비 수학 32% 상대 향상 등 SOTA 달성.
💡 핵심 아이디어
멀티에이전트 진화의 핵심은 "누가 협업하고, 어떻게 협업하며, 지식이 어떻게 흐르는가"이다. 모두에게 동일하게 broadcast하면 specialization이 소실되고, 개별 에이전트에 격리하면 cross-agent learning을 잃는다. 비대칭 라우팅이 specialization을 보존하면서 약한 에이전트의 갭을 채운다.
🔬 기술적 접근법
- **모델/방법론**: Qwen3-8B를 백본으로 한 co-evolving agent pool 위에 개인·팀·집단 세 수준 진화 연산자를 적용.
- **핵심 기법**: 팀 실패·불일치 시 트리거되는 CODREAM 사후 반성 프로토콜, 실패한 niche에서 강→약 비대칭 통찰 라우팅, niche-conditioned 팀 구성과 협업 구조의 온라인 선택, 성능 압력 하에서의 lifecycle 연산자(fork/merge/prune/seed).
📊 주요 결과
- competition math 63.9%, code 75.7%, multi-domain reasoning 87.1% 달성.
- 베스트 베이스라인 대비 수학에서 32% 상대 향상.
- 동일 초기화에서 출발한 에이전트들에서 4~5개의 niche specialist가 자발적으로 출현.
- ablation에서 asymmetric cross-agent transfer가 주된 성능 동인임을 확인.
💭 의의 및 한계
**의의**: 단일 모델 self-improvement 한계를 넘어 다중 에이전트 공진화 패러다임의 실증 가능성을 제시. **한계**: 학습-프리이지만 multi-agent 호출 비용이 크며, 평가가 reasoning·math·code에 집중되어 도구 사용·임바디드 환경 일반화는 후속 과제.
🚀 실용적 활용
- 추론·코딩 특화 멀티에이전트 솔루션의 운영 시 자가 향상 메커니즘.
- 도메인이 점차 진화하는 long-running 에이전트 시스템의 무중단 적응.
- 에이전트 시뮬레이션 환경에서 specialization을 의도적으로 유도하는 설계 도구.