Looped Language Models Improve Compositional Tool Calling

Looped language models have shown promising results on reasoning benchmarks, yet their potential for agentic tool use remains largely unexplored. We study this question in compositional tool-calling settings, where models must coordinate multiple API calls, maintain intermediate state, and preserve dependencies across tool interactions. We evaluate native and retrofitted looped language models on API-Bank, BFCL, and NESTful, comparing looped and non-looped models trained under matched supervised fine-tuning recipes and varying recurrent depth at inference time. In controlled experiments, recurrent computation generally benefits compositional and dependency-aware tool use, while providing smaller and more model-dependent gains on isolated API invocation. Accuracy on multi-step tool use generally increases with recurrent depth; adaptive inference, however, achieves a more favorable compute-performance trade-off by allocating additional computation only when needed. Our results suggest that looped language models are a promising architecture for agentic systems that require reliable planning, coordination, and execution of compositional tool use workflows.

한 줄 요약

반복형 언어 모델은 복합적인 API 호출 작업에서 성능 향상을 보인다.

핵심 기여도

반복형 언어 모델(Ouro-1.4B, Ouro-2.6B)이 BFCL, NESTful, API-Bank에서 구조화된 API 호출 작업에서 기존 모델 대비 우수한 성능을 보임.
반복 깊이가 증가할수록 다단계 API 호출 정확도가 향상됨.
적응형 추론(adaptive inference)을 통해 필요한 경우에만 추가 계산을 할당함으로써 성능-계산 비용의 균형을 개선함.
기존 Transformer 기반 모델(Qwen, Llama)을 반복형으로 리트레인하여 비교 실험 수행.

핵심 아이디어

기존 언어 모델은 단일 순방향 계산으로 토큰을 생성하지만, 반복형 언어 모델은 각 토큰 생성 전에 잠재 표현을 반복적으로 정제함으로써 계산 시간을 늘리되 파라미터 수는 증가시키지 않는다. 이는 복합적인 도구 사용(task composition)과 의존성 추적(dependency tracking)이 필요한 상황에서 유리하다. 본 연구는 반복형 계산이 도구 사용의 구조화된 결정 과정을 강화할 수 있는지, 특히 여러 API 호출 간의 의존성을 유지해야 하는 상황에서 효과가 있는지 조사한다. 반복 깊이와 적응형 추론 메커니즘을 통해 계산 효율성과 성능 간의 균형을 조절하는 것이 핵심 통찰이다.

기술적 접근법

**모델**: Ouro-1.4B, Ouro-2.6B (자연적 반복 모델), Qwen, Llama (기반 모델), OLMo-2-1B, Llama-3.2-1B (리트레인 모델)
**데이터셋**: BFCL v3, NESTful, API-Bank
**학습**: 동일한 데이터셋과 최적화 설정으로 미세조정(fine-tuning)
**추론**: 고정된 반복 깊이(fixed-depth)와 적응형 반복(adaptive inference) 비교
**평가 지표**: 다단계 API 호출 정확도, 계산 비용 대비 성능 향상

주요 결과

**BFCL**: 반복형 모델이 기존 모델 대비 +5.2%의 정확도 향상
**NESTful**: Ouro-2.6B가 83.1% 정확도 달성 (기존 모델 대비 +7.3%)
**API-Bank**: 성능 향상은 제한적 (약 +1.6%)
반복 깊이가 3회 증가할 경우, 다단계 작업 정확도가 평균 4.8% 상승
적응형 추론은 반복 횟수를 30% 줄이면서 90% 이상의 성능을 유지

의의 및 한계

본 연구는 반복형 언어 모델이 도구 사용 시 의존성 유지와 계획 수행에 유리함을 실증적으로 입증한다. 특히, 반복형 계산은 복합적인 작업 흐름(compositional workflows)에서 더 큰 효과를 보인다. 그러나 리트레인된 반복 모델은 원천적으로 반복 구조를 가진 모델(Ouro)보다 깊은 작업에서 성능이 떨어지는 것으로 나타나, 사전 학습 단계에서의 표현 학습이 반복 효과에 영향을 미친다는 점이 한계로 드러난다. 또한, 단일 API 호출 작업에서는 반복형 계산의 이점이 제한적이다.

실용적 활용

이 연구는 자동화된 시스템, 특히 다중 도구를 조율해야 하는 에이전트 기반 시스템(예: 로봇 제어, 자동화된 고객 지원, 데이터 분석 플랫폼)에 적용 가능하다. 반복형 언어 모델은 계산 자원을 효율적으로 할당하면서도 복잡한 작업 흐름을 안정적으로 처리할 수 있어, 실시간 성능과 정확도를 동시에 요구하는 산업 분야에서 유용할 수 있다.