OWL: Optimized Workforce Learning for General Multi-Agent Assistance in Real-World Task Automation

Large Language Model (LLM)-based multi-agent systems show promise for automating real-world tasks but struggle to transfer across domains due to their domain-specific nature. Current approaches face two critical shortcomings: they require complete architectural redesign and full retraining of all components when applied to new domains. We introduce Workforce, a hierarchical multi-agent framework that decouples strategic planning from specialized execution through a modular architecture comprising: (i) a domain-agnostic Planner for task decomposition, (ii) a Coordinator for subtask management, and (iii) specialized Workers with domain-specific tool-calling capabilities. This decoupling enables cross-domain transferability during both inference and training phases: During inference, Workforce seamlessly adapts to new domains by adding or modifying worker agents; For training, we introduce Optimized Workforce Learning (OWL), which improves generalization across domains by optimizing a domain-agnostic planner with reinforcement learning from real-world feedback. To validate our approach, we evaluate Workforce on the GAIA benchmark, covering various realistic, multi-domain agentic tasks. Experimental results demonstrate Workforce achieves open-source state-of-the-art performance (69.70%), outperforming commercial systems like OpenAI's Deep Research by 2.34%. More notably, our OWL-trained 32B model achieves 52.73% accuracy (+16.37%) and demonstrates performance comparable to GPT-4o on challenging tasks. To summarize, by enabling scalable generalization and modular domain transfer, our work establishes a foundation for the next generation of general-purpose AI assistants.

한 줄 요약

OWL은 도메인 간 이전을 가능하게 하는 모듈형 멀티에이전트 프레임워크 Workforce를 제안하며, GAIA 벤치마크에서 69.70% 성능을 달성한다.

핵심 기여도

Workforce: 도메인-비특정 Planner, Coordinator, 도메인-특정 Worker로 구성된 모듈형 멀티에이전트 프레임워크를 제안.
OWL: 강화학습 기반 도메인-비특정 Planner 최적화를 통해 16.37% 성능 향상.
GAIA 벤치마크에서 69.70% 달성, OpenAI Deep Research를 2.34% 초과.
Qwen2.5-32B-Instruct 모델 기반 OWL 학습으로 GPT-4o와 유사한 성능 달성.

핵심 아이디어

기존 멀티에이전트 시스템은 도메인 전이 시 전체 아키텍처 재설계와 재학습이 필요하여 유연성이 떨어진다. Workforce는 전략적 계획(Planner)과 도메인 특화 실행(Worker)을 분리하는 모듈형 구조를 도입함으로써, 새로운 도메인에 Worker만 추가/수정하면 즉시 적용 가능하다. 특히, Planner는 도메인-비특정으로 설계되어 강화학습(OWL)을 통해 일반화 능력을 향상시킨다. 이는 기존 방식에서 모든 에이전트를 최적화하는 대신, 핵심적인 Planner만 학습함으로써 효율성을 높이는 새로운 접근법이다.

기술적 접근법

**Workforce 아키텍처**:
Planner: 도메인-비특정, 고수준 목표 기반 작업 분해.
Coordinator: 서브태스크 할당.
Worker: 도메인-특정, 도구 호출 수행.
**OWL 학습 전략**:
SFT(감독 학습)로 Planner 초기화.
강화학습(DPO)으로 Planner의 일반화 능력 향상.
**하이퍼파라미터**:
학습률 10⁻⁵, 최대 토큰 길이 32,768, 2 에포크, bfloat16 혼합 정밀도.
**모델**: Qwen2.5-32B-Instruct, GPT-4o, Claude-3.7-Sonnet 사용.

주요 결과

**GAIA 벤치마크**: Workforce는 69.70% 성능 달성, OpenAI Deep Research(55.15%) 대비 +2.34%.
**OWL 학습 모델**: Qwen2.5-32B-Instruct 기반 OWL 학습 모델은 52.73% (기존 대비 +16.37%).
**복잡도 높은 Level 3 태스크**: GPT-4o(60.61%) 대비 OWL 모델 26.92% 성능 달성.
**재계획 메커니즘**: GPT-4o와 Claude-3.7-Sonnet 기반 Workforce는 재계획 횟수 증가에 따라 성능 향상.

의의 및 한계

Workforce는 도메인 간 이전을 위한 모듈형 구조와 OWL 학습 전략을 통해, 기존 멀티에이전트 시스템의 유연성과 일반화 능력을 획기적으로 향상시킨다. 특히, Qwen2.5-32B-Instruct 모델을 기반으로 GPT-4o와 유사한 성능을 달성한 점은 개방형 모델의 경쟁력을 입증한다. 그러나 일부 오류는 기초 모델 자체의 한계(21.15%)나 도구 문제에서 비롯되며, Planner 최적화만으로는 모든 문제를 해결하기 어렵다는 점이 한계로 지적된다.

실용적 활용

Workforce는 소프트웨어 개발, 고객 지원, 의료 상담 등 다양한 도메인에서 즉시 적용 가능한 AI 어시스턴트로 활용 가능하다. 특히, 새로운 도메인에 Worker만 추가하면 전체 시스템을 재설계하지 않아도 되므로, 기업의 AI 도입 비용과 시간을 절감할 수 있다.