DynaFlow: Learning Free-Form Multi-Agent Orchestration

Ruhao Liu, Qi Li, Shizun Wang, Xinchao Wang

arXiv:2610.34467 · 2026-10-27 공개 · arXiv · PDF

reinforcement-learning mathematical-reasoning supervised-finetuning qwen3-5-27b multi-agent-orchestration information-flow workflow-synthesis scientific-qa

Abstract

Multi-agent systems often rely on predefined collaboration structures, limiting their ability to adapt to diverse task requirements. We introduce DynaFlow, a framework that integrates free-form executable workflow synthesis into the action space of the main agent. The agent decides when collaboration is needed and generates task-specific programs that coordinate sub-agents through sequential or parallel execution, structured information exchange, and verification. Execution results and traces inform subsequent actions, enabling the agent to adapt collaboration as reasoning progresses. We train only the main agent through supervised fine-tuning on distilled trajectories, followed by refinement on examples filtered for unsupported premises, biased verification, and information-flow defects. All sub-agents remain fixed, separating orchestration learning from executor capability improvement. Across six benchmarks spanning mathematical reasoning, scientific question answering, and multi-hop retrieval, DynaFlow achieves 88.08% overall accuracy in Forced mode, outperforming the strongest evaluated baseline by 10.90 percentage points with the same Qwen3.5-27B backbone. Workflow analysis finds more explicit use, verification, and refinement of upstream outputs after training, highlighting cross-stage information flow as a key dimension of multi-agent orchestration.

한국어 요약

한 줄 요약

DynaFlow는 자유형 멀티에이전트 오케스트레이션을 학습하여 88.08%의 정확도를 달성한 프레임워크이다.

핵심 기여도

핵심 아이디어

DynaFlow는 기존 멀티에이전트 시스템에서 흔히 사용되는 고정된 협업 구조의 한계를 극복하기 위해, 메인 에이전트가 **자유형 실행 가능한 워크플로우**를 생성하고 실행하는 방식을 도입했다. 이는 **sequential 또는 parallel 실행**, **구조화된 정보 교환**, **검증**을 통해 서브에이전트를 조율한다.

기존 연구는 워크플로우 생성에 **제한된 템플릿**이나 **단일 결정**을 사용했지만, DynaFlow는 **실행 결과와 트레이스**를 기반으로 **반복적인 오케스트레이션 결정**을 내리는 방식을 채택했다. 이는 **cross-stage 정보 흐름**을 핵심 차원으로 삼아, 중간 결과를 명시적으로 사용하고 검증하며 개선하도록 유도한다.

기술적 접근법

주요 결과

의의 및 한계

DynaFlow는 고정된 서브에이전트를 활용하면서도, **오케스트레이션 학습**을 효과적으로 수행함으로써, 기존 멀티에이전트 시스템의 **유연성 부족** 문제를 해결한다. 특히, **2단계 학습**과 **트레이드미스 필터링**을 통해 **신뢰성 있는 정보 흐름**을 강화하고, **중간 결과의 개선**을 촉진한다.

하지만, **서브에이전트의 정보 전달 신뢰성**이나 **독립적 검증 능력**은 학습되지 않으며, **다중 턴 트레이드미스**를 포함한 학습이 필요하다는 한계가 있다. 또한, **결정적 오케스트레이션**이 아닌 **동적 조정**을 요구하는 상황에서의 확장성도 추가 연구가 필요하다.

실용적 활용

DynaFlow는 **복잡한 문제 해결**, **과학적 질문 답변**, **다중 단계 검색** 등에서 유용하게 활용될 수 있다. 특히, **고정된 에이전트를 재사용하면서도 유연한 협업 구조**를 요구하는 산업 및 연구 환경에서 적용 가능하다.