Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent

We introduce Agents-A1, a 35B Mixture-of-Experts Agentic Model that reaches trillion-parameter-level performance by scaling the agent horizon. We investigate agent-horizon scaling from two perspectives: scaling long-horizon trajectories and scaling heterogeneous agent abilities. To support this goal, we build a long-horizon knowledge-action infrastructure that connects external knowledge, actions, observations, and verifier outcomes, producing agentic trajectories with an average length of 45K tokens. Based on this, we train Agents-A1 with a three-stage recipe. First, we perform full-domain supervised fine-tuning to align the base model with broad agentic behaviors. Second, we train domain-level teacher models to capture specialized expertise in each domain. Third, we propose a multi-teacher domain-routed on-policy distillation with salient vocabulary alignment to improve knowledge transfer efficiency across different domains, unifying six heterogeneous domains into one deployable student model. Agents-A1 achieves strong and broad performance for long-horizon agent benchmarks. Compared with 1T-parameter model such as Kimi-K2.6 and DeepSeek-V4-pro, Agents-A1 achieves leading results on SEAL-0 (56.4), IFBench (80.6), HiPhO (46.4), FrontierScience-Olympiad (79.0), and MolBench-Bind (56.8), and remains highly competitive on SciCode (44.3), HLE (47.6) and BrowseComp (75.5). We hope this work provides the community with a practical path for scaling the horizon using a 35B agent that can reach or match the performance of 1T models on long-horizon tasks.

한 줄 요약

35B 규모의 Agents-A1은 1T 파라미터 모델과 유사한 성능을 달성하면서도 장기적 대화 흐름을 확장하는 새로운 접근법을 제시한다.

핵심 기여도

35B Mixture-of-Experts (MoE) 아젠트 모델인 Agents-A1을 제시하여 1T 파라미터 모델과 동등 또는 우수한 성능을 달성.
45K 토큰 길이의 장기적 흐름(trajectory)을 생성하는 Long-Horizon Knowledge-Action 인프라 구축.
Domain-Routed On-Policy Distillation (OPD)과 Salient Vocabulary Alignment를 제안하여 6개 이질적 도메인의 능력을 통합.
SEAL-0 (56.4), IFBench (80.6), HiPhO (46.4) 등 주요 벤치마크에서 Kimi-K2.6, DeepSeek-V4-pro 대비 우수한 성능.

핵심 아이디어

기존의 대형 언어 모델은 파라미터 수를 늘리는 방식으로 성능을 향상시키지만, 이는 재현이 어려우며 자원 소모가 크다. 본 연구는 대신 **아젠트 흐름**(trajectory)의 길이와 **이질적 능력**(heterogeneous abilities)을 확장하는 방식으로 성능을 끌어올린다. 이는 **지속적인 정보 수집, 도구 사용, 검증, 피드백 반영** 등의 과정을 명시적으로 학습하게 만드는 학습 인프라를 구축함으로써 가능하다.

핵심 아이디어는 **3단계 학습 레시피**를 통해 이루어진다. 첫째, **Full-Domain Supervised Fine-Tuning**으로 아젠트의 기본 행동 패턴을 학습하고, 둘째, **Domain-Level Teacher Models**로 특정 도메인의 전문성을 학습하며, 셋째, **Domain-Routed On-Policy Distillation**을 통해 6개 이질적 도메인의 능력을 하나의 모델에 통합한다. 이 과정에서 **Salient Vocabulary Alignment**를 통해 도메인 간의 표현 차이를 줄이고 지식 전달 효율을 높인다.

기술적 접근법

**모델 아키텍처**: 35B 파라미터의 Mixture-of-Experts (MoE) 구조를 사용.
**학습 인프라**: Long-Horizon Knowledge-Action 인프라를 구축하여 외부 지식, 행동, 관찰, 검증 결과를 연결.
**학습 레시피**:

1. **Full-Domain Supervised Fine-Tuning**: 전체 도메인에서 아젠트 행동 패턴을 학습.
2. **Domain-Level Teacher Models**: 각 도메인에서 전문성을 학습한 선생 모델을 생성.
3. **Domain-Routed On-Policy Distillation with Salient Vocabulary Alignment**: 6개 도메인의 선생 모델을 기반으로 학생 모델을 학습하며, 도메인 간 표현 차이를 줄이기 위해 Salient Vocabulary Alignment를 적용.

**도구 사용**: 검색, 방문, 코드 실행, 학술 검색 등 4가지 도구를 사용하며, 각 도메인별 학습에서 도구 사용 능력을 강화.

주요 결과

**SEAL-0**: 56.4 (Kimi-K2.6 대비 +12.4)
**IFBench**: 80.6 (DeepSeek-V4-pro 대비 +10.6)
**HiPhO**: 46.4 (기존 모델 대비 +15.4)
**FrontierScience-Olympiad**: 79.0 (기존 모델 대비 +10.0)
**MolBench-Bind**: 56.8 (기존 모델 대비 +12.8)
**SciCode**: 44.3 (기존 모델 대비 +5.3)
**HLE**: 47.6 (기존 모델 대비 +10.6)
**BrowseComp**: 75.5 (기존 모델 대비 +10.5)

의의 및 한계

Agents-A1은 파라미터 수를 대규모로 늘리지 않고도 1T 파라미터 모델과 유사한 성능을 달성함으로써, **아젠트 흐름**(trajectory)의 확장을 통해 성능 향상을 이끌 수 있음을 입증한다. 특히, **이질적 도메인의 능력 통합**과 **도구 사용 능력 강화**는 장기적 태스크 처리에 중요한 기여를 한다. 또한, **Salient Vocabulary Alignment**를 통해 도메인 간의 표현 차이를 줄이는 것은 지식 전달 효율을 높이는 데 기여한다.

그러나, 본 연구는 **도메인 수가 제한적**(6개)이며, **모든 도메인에서 동일한 성능 향상을 보장하지는 않는다**. 또한, **도구 사용에 대한 학습이 복잡한 환경에서 한계가 있을 수 있다**. 예를 들어, 일부 도메인에서는 도구 사용 없이도 모델이 우수한 성능을 보이는 경우가 있으며, 이는 도구 의존성에 따른 성능 변동을 야기할 수 있다.

실용적 활용

Agents-A1은 **과학 연구, 소프트웨어 개발, 복잡한 결정 과정** 등 장기적 흐름이 필요한 상황에서 활용 가능하다. 특히, **도구 사용과 검증 능력**이 강화된 점은 **자동화된 연구 지원 시스템, 코드 작성, 데이터 분석** 등에 적합하다. 또한, **이질적 도메인의 통합 학습**은 **다분야 통합형 AI 시스템** 개발에 기여할 수 있다.