SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness

As coding agents move from supervised code completion to unattended, around-the-clock exploration, their work expands from isolated predictions into long trajectories of reasoning, tool use, and feedback. Token efficiency therefore becomes important for scaling recursive self-improvement. We take an RSI-inspired approach at the harness layer, scaling auto-research loops across increasingly numerous and diverse environments for harness rollouts. At this scale, the process yields reusable improvements that transfer beyond their development setting, moving automated harness discovery toward production-level outcomes. Four mechanisms survive selection and form SoL-Pi, spanning action execution, context compaction, observation handling, and delegated reading. On the 51-task EdgeBench evaluation, SoL-Pi achieves performance comparable to Pi across GPT-5.6 Sol and Opus 5 while reducing recorded token traffic by 44.7-49.0% and API cost by about one third. In other words, estimated hourly savings are \8.75-13.50 relative to native Codex and Claude Code harnesses, and \4.36-5.71 relative to Pi.

한 줄 요약

SoL-Pi는 자동 연구 루프를 통해 토큰 효율성을 44.7–49.0% 개선한 에이전트 헤이버스 시스템이다.

핵심 기여도

RSI(Recursive Self-Improvement) 기반 헤이버스 최적화를 통해 EdgeBench에서 토큰 트래픽을 44.7–49.0% 감소.
4개의 메커니즘(액션 실행, 컨텍스트 압축, 관찰 처리, 위임 읽기)을 통합한 SoL-Pi 제안.
GPT-5.6 Sol과 Opus 5에서 Pi와 유사한 성능을 유지하면서 API 비용을 약 33% 절감.
IMO 2026 평가에서 문제당 평균 $20.90의 최저 비용 달성.

핵심 아이디어

SoL-Pi는 토큰 효율성을 향상시키기 위해 AI가 헤이버스를 반복적으로 개선하는 RSI 접근법을 도입한다. 기존 연구는 토큰 단가를 낮추는 방식에 집중했지만, 이 논문은 헤이버스 레벨에서 토큰 사용 자체를 최적화하는 새로운 방향을 제시한다. 헤이버스 개선 과정에서 도구 사용, 컨텍스트 관리, 위임, 검증 등이 밀접하게 연결되어 있어, 단일 변경이 후속 실패나 토큰 비용 이동을 유발할 수 있다. 이를 해결하기 위해 SoL-Pi는 연구 AI가 실행 트레이스를 관찰하고 후보 변경을 제안·테스트하는 방식을 채택한다.

핵심 통찰은 헤이버스 개선이 단일 작업에 최적화되지 않고, 다양한 환경에서 전이 가능한 개선을 유도할 수 있다는 점이다. 이를 위해 SoL-Pi는 넓은 가설 공간에서 후보를 생성하고, 독립적인 검증을 통해 과적합을 방지하는 구조를 설계했다.

기술적 접근법

**SoL-Pi 메커니즘**: 액션 실행(Action Execution), 컨텍스트 압축(Context Compaction), 관찰 처리(Observation Handling), 위임 읽기(Delegated Reading) 4가지 메커니즘으로 구성.
**자동 연구 루프**: 연구 AI가 기존 헤이버스 실행 트레이스를 관찰하고, 후보 변경을 제안·테스트.
**검증 프로세스**: 후보가 동결되면 독립적인 환경에서 검증되며, 실패 시 수정되지 않음.
**실험 규모**: 약 150개의 아이디어 방향, 500개 이상의 실행 가능한 환경에서 3,000회 이상의 실행, 60,000회 이상의 에이전트-환경 상호작용 수행.

주요 결과

**EdgeBench 51-task 평가**: SoL-Pi는 Pi와 유사한 성능을 유지하면서 토큰 트래픽을 44.7–49.0% 감소, API 비용을 약 33% 절감.
**Terminal-Bench 4 평가**: 63개 CPU-only 작업에서 SoL-Pi는 15개 문제를 해결, Pi 대비 총 모델 비용 26.3% 감소, 문제당 비용 11.6% 절감.
**IMO 2026 평가**: 6개 문제 중 3개 해결, 문제당 평균 $20.90 비용으로 Codex($22.89)와 Pi($25.32)보다 낮음.

의의 및 한계

SoL-Pi는 헤이버스 레벨에서 토큰 효율성을 개선하는 새로운 접근법을 제시하며, RSI의 잠재적 가치를 실증한다. 특히, EdgeBench와 IMO 2026에서의 결과는 헤이버스 최적화가 다양한 작업과 모델에 걸쳐 전이 가능하다는 점을 입증한다. 그러나 연구 환경이 CPU-only 기반인 Terminal-Bench 4에서는 GPU 의존 작업이 제외되었으며, 일부 작업에서 해결률이 Pi보다 낮아진 점은 한계로 지적된다. 또한, 후보 개선이 특정 작업에 과적합되지 않도록 독립 검증을 강화해야 한다는 점도 개선 방향으로 제시된다.

실용적 활용

SoL-Pi는 자율 연구, 소프트웨어 엔지니어링 에이전트, 개인 보조 에이전트 등에서 토큰 비용을 절감하면서도 성능을 유지하는 데 활용 가능하다. 특히, 대규모 모델을 사용하는 산업에서 API 비용을 줄이고 효율적인 작업 처리를 지원하는 데 유용할 것으로 기대된다.