Solvita: Enhancing Large Language Models for Competitive Programming via Agentic Evolution
Han Li, Jinyu Tian, Rili Feng, Yuqiao Du, Chong Zheng, Chenyu Wang, Chenchen Liu, Shihao Li, Xinping Lei, Yifan Yao, Weihao Xie, Letian Zhu, Jiaheng Liu
arXiv:2605.15301 · 2026-05-18 공개 · arXiv · PDF
reinforcement-learning code-generation llm-finetuning multi-agent-framework competitive-programming program-synthesis agentic-evolution knowledge-networks
Abstract
Large language models (LLMs) still struggle with the rigorous reasoning demands of hard competitive programming. While recent multi-agent frameworks attempt to bridge this reliability gap, they remain fundamentally stateless: they rely on static retrieval and discard the valuable problem-solving and debugging experience gained from previous tasks. To address this, we present Solvita, an agentic evolution framework that enables continuous learning without requiring weight updates to the underlying LLM. Solvita reorganizes problem-solving into a closed-loop system of strategy selection, program synthesis, certified supervision, and targeted hacking, executed by four specialized agents: Planner, Solver, Oracle, and Hacker. Crucially, each agent is paired with a trainable, graph-structured knowledge network. As the system operates, outcome signals, such as pass/fail verdicts, test certification quality, and adversarial vulnerabilities discovered by the Hacker, are recast as reinforcement learning updates to these network weights. This allows the agents to dynamically route future queries based on past successes and failures, effectively accumulating transferable reasoning experience over time. Evaluated across CodeContests, APPS, AetherCode, and live Codeforces rounds, Solvita establishes a new state-of-the-art among code-generation agents, outperforming existing multi-agent pipelines and nearly doubling the accuracy of single-pass baselines.
한국어 요약
📋 한 줄 요약
**[코드 생성 에이전트]** 가중치 업데이트 없이도 그래프 기반 지식 네트워크에 경험을 축적해 진화하는 멀티에이전트 시스템 Solvita를 제안하여 경쟁 프로그래밍에서 SOTA를 달성했다.
🎯 핵심 기여도
- 가중치 변경 없는 agentic evolution 프레임워크 Solvita 제안
- Planner / Solver / Oracle / Hacker 4개 전문 에이전트로 구성된 폐루프 시스템 설계
- 각 에이전트에 학습 가능한 그래프 구조 지식 네트워크를 결합해 경험을 누적
- pass/fail, 테스트 인증 품질, Hacker가 발견한 취약점 등 결과 신호를 RL 업데이트로 변환
💡 핵심 아이디어
기존 멀티에이전트 코드 생성 시스템은 정적 retrieval에 의존하고 이전 문제에서 얻은 디버깅 경험을 버리는 "stateless" 구조다. 가중치 업데이트 없이도 그래프 기반 지식 네트워크의 엣지·노드 가중치를 RL로 학습하면, 미래 쿼리를 과거의 성공·실패 패턴에 따라 동적으로 라우팅할 수 있어 경험이 전이 가능한 추론 자원으로 축적된다.
🔬 기술적 접근법
- 4-에이전트 폐루프: 전략 선택(Planner) → 프로그램 합성(Solver) → 인증 감독(Oracle) → 표적 해킹(Hacker)
- 각 에이전트마다 trainable graph-structured knowledge network 부착
- 결과 신호(verdict, 테스트 품질, 적대적 취약점)를 RL 업데이트로 캐스팅
- 그래프 가중치 기반의 동적 쿼리 라우팅으로 누적된 reasoning experience 활용
📊 주요 결과
- CodeContests, APPS, AetherCode, 실시간 Codeforces 라운드 전반에서 평가
- 코드 생성 에이전트 SOTA 달성
- 기존 멀티에이전트 파이프라인 능가
- 싱글패스 베이스라인 대비 정확도를 거의 두 배로 향상
💭 의의 및 한계
모델 파인튜닝 없이도 시스템 수준에서 학습이 일어나는 "agentic evolution" 개념을 실증한 점이 의미 있다. 다만 그래프 지식 네트워크의 학습 안정성, 다른 도메인(수학 증명, 시스템 디자인)으로의 일반화, 라이브 콘테스트 환경의 데이터 편향 등은 추가 검증이 필요하다.
🚀 실용적 활용
경쟁 프로그래밍 코치, 사내 코드 리뷰·디버깅 보조, CTF 자동 풀이, 알고리즘 면접 준비 도구 등 "반복 시도에서 경험을 축적해야 하는" 코드 에이전트 제품에 직접 적용 가능하다.