Self-Organizing Agent Teams Learn to Reason Together

Collective intelligence depends not only on what team members know, but also on how they organize their work. When the structure of a solution is unknown, useful roles and divisions of labor cannot be specified in advance; teams must learn from experience how to organize reasoning as it unfolds. Human teams routinely adapt this way, while existing AI agent teams rely on fixed protocols, explicit task decomposition, or routing. We introduce Self-Organizing Agent Teams (SAT), fixed teams of AI agents that learn reusable strategies from prior collaborations to organize roles, conversational phases, participation, and information flow. These strategies enable what we call collaborative computation: agents exchange, challenge, repair, and synthesize partial reasoning into solutions no member produced independently. In two independent settings, we learn teamwork strategies that transfer unchanged to unseen benchmarks, using only 15 mathematics and 25 graduate-level knowledge problems. Across five mathematics and physics benchmarks, self-organizing teams average 66.7% accuracy, versus 48.8% for their strongest member, 58.7% for compute-matched inference by that agent, and 59.0% for a perfect router over members' independent answers; on AIME 2026, they exceed this router by 13.4 points. Because gains vary across benchmarks, we ask when self-organizing collaboration helps. Across eight benchmarks, demonstrability (the organizational-psychology construct of whether a team can distinguish correct from incorrect reasoning) strongly tracks improvement over the strongest member (Spearman ρ=0.90, p=0.005): teams benefit most when correct reasoning can be recognized once it appears. More broadly, these results suggest that organization itself can become an agent capability: agent teams can learn how to reason together and produce solutions their members could not reach independently.

한 줄 요약

AI 에이전트 팀이 협력적 추론을 학습해 개별 에이전트가 도출하지 못한 정답을 생성하는 Self-Organizing Agent Teams (SAT)를 제안한다.

핵심 기여도

SAT는 15개 수학 문제와 25개 대학원 수준 지식 문제만으로 팀워크 전략을 학습하여, 5개 벤치마크에서 평균 66.7% 정확도를 달성함.
AIME 2026에서 SAT는 최적 라우터(59.0%)보다 13.4%포인트 높은 성능을 보임.
팀워크 전략은 학습 후 변경 없이 새로운 문제로 전이 가능하며, 팀의 정확도는 개별 에이전트(48.8%)와 라우터(59.0%)를 모두 초과함.
Demonstrability(정확한 추론의 식별 가능성)와 성능 향상 사이의 강한 상관관계(Spearman ρ=0.90, p=0.005)를 보임.

핵심 아이디어

기존 AI 팀은 고정된 프로토콜, 명시적 작업 분할, 라우팅에 의존하지만, SAT는 협력 경험에서 팀워크 전략을 학습해 역할, 대화 단계, 참여, 정보 흐름을 조직한다. 이는 "협력적 계산(collaborative computation)"을 가능하게 하며, 에이전트들이 부분적 추론을 교환하고, 수정하며, 종합하여 개별 에이전트가 도출하지 못한 정답을 생성한다. 학습된 전략은 추론 구조가 미지일 때 유용하며, 팀이 문제 해결 과정에서 스스로 조직을 학습할 수 있다는 점에서 혁신적이다. 학습은 오프라인으로 이루어지고, 추론 시에는 전략 풀에서 최적 해를 선택한다.

기술적 접근법

SAT는 고정된 AI 에이전트 팀으로 구성되며, 팀워크 전략은 과거 협력 경험에서 학습됨.
학습된 전략은 역할, 대화 단계, 참여, 정보 흐름, 종합 절차를 포함하며, 이는 추론 과정에서 유기적으로 조정됨.
학습은 15개 수학 문제와 25개 대학원 수준 지식 문제로 이루어지고, 추론 시에는 전략 풀에서 최종 답변을 선택함.
학습된 전략은 새로운 문제로 전이 가능하며, 추론 단계에서 각 에이전트는 부분적 추론을 교환, 수정, 종합함.

주요 결과

수학 및 물리 5개 벤치마크에서 SAT는 66.7% 정확도를 달성함. 이는 개별 에이전트(48.8%)와 라우터(59.0%)를 모두 초과함.
AIME 2026에서 SAT는 라우터 대비 13.4%포인트 높은 성능을 보임.
지식 및 논리 3개 벤치마크에서 SAT는 72.8% 정확도를 달성함.
풀 내 정답률은 87.9%이지만, 최종 정답률은 72.8%로, 선택 메커니즘이 개선이 필요함.

의의 및 한계

SAT는 AI 팀이 협력적 추론을 학습해 개별 에이전트가 도출하지 못한 정답을 생성할 수 있음을 보여준다. 이는 조직 자체를 에이전트의 능력으로 확장하는 기초 연구로, 팀워크 전략이 문제 해결 과정에서 유기적으로 발전할 수 있음을 시사한다. 그러나 풍부한 추론 생성이 정확한 선택으로 이어지지 않는 한계가 있으며, 선택 메커니즘과 증명 형식의 개선이 필요하다. Demonstrability는 팀 성능과의 상관관계를 제공하지만, 팀워크 학습 과정에는 직접적으로 활용되지 않는다.

실용적 활용

SAT는 복잡한 수학 문제 해결, 과학적 추론, 대규모 지식 기반 질문 응답 등에서 활용 가능하다. 특히, 개별 에이전트가 독립적으로 해결하지 못하는 문제에서 협력적 추론을 통해 새로운 해법을 도출할 수 있어, 연구 및 산업 분야에서 혁신적인 도구로 활용될 수 있다.