Solvita: Enhancing Large Language Models for Competitive Programming via Agentic Evolution

Han Li, Jinyu Tian, Rili Feng, Yuqiao Du, Chong Zheng, Chenyu Wang, Chenchen Liu, Shihao Li, Xinping Lei, Yifan Yao, Weihao Xie, Letian Zhu, Jiaheng Liu

arXiv:2605.15301 · 2026-05-18 공개 · arXiv · PDF

reinforcement-learning code-generation llm-finetuning multi-agent-framework competitive-programming program-synthesis agentic-evolution knowledge-networks

Abstract

Large language models (LLMs) still struggle with the rigorous reasoning demands of hard competitive programming. While recent multi-agent frameworks attempt to bridge this reliability gap, they remain fundamentally stateless: they rely on static retrieval and discard the valuable problem-solving and debugging experience gained from previous tasks. To address this, we present Solvita, an agentic evolution framework that enables continuous learning without requiring weight updates to the underlying LLM. Solvita reorganizes problem-solving into a closed-loop system of strategy selection, program synthesis, certified supervision, and targeted hacking, executed by four specialized agents: Planner, Solver, Oracle, and Hacker. Crucially, each agent is paired with a trainable, graph-structured knowledge network. As the system operates, outcome signals, such as pass/fail verdicts, test certification quality, and adversarial vulnerabilities discovered by the Hacker, are recast as reinforcement learning updates to these network weights. This allows the agents to dynamically route future queries based on past successes and failures, effectively accumulating transferable reasoning experience over time. Evaluated across CodeContests, APPS, AetherCode, and live Codeforces rounds, Solvita establishes a new state-of-the-art among code-generation agents, outperforming existing multi-agent pipelines and nearly doubling the accuracy of single-pass baselines.

한국어 요약

📋 한 줄 요약

**[코드 생성 에이전트]** 가중치 업데이트 없이도 그래프 기반 지식 네트워크에 경험을 축적해 진화하는 멀티에이전트 시스템 Solvita를 제안하여 경쟁 프로그래밍에서 SOTA를 달성했다.

🎯 핵심 기여도

💡 핵심 아이디어

기존 멀티에이전트 코드 생성 시스템은 정적 retrieval에 의존하고 이전 문제에서 얻은 디버깅 경험을 버리는 "stateless" 구조다. 가중치 업데이트 없이도 그래프 기반 지식 네트워크의 엣지·노드 가중치를 RL로 학습하면, 미래 쿼리를 과거의 성공·실패 패턴에 따라 동적으로 라우팅할 수 있어 경험이 전이 가능한 추론 자원으로 축적된다.

🔬 기술적 접근법

📊 주요 결과

💭 의의 및 한계

모델 파인튜닝 없이도 시스템 수준에서 학습이 일어나는 "agentic evolution" 개념을 실증한 점이 의미 있다. 다만 그래프 지식 네트워크의 학습 안정성, 다른 도메인(수학 증명, 시스템 디자인)으로의 일반화, 라이브 콘테스트 환경의 데이터 편향 등은 추가 검증이 필요하다.

🚀 실용적 활용

경쟁 프로그래밍 코치, 사내 코드 리뷰·디버깅 보조, CTF 자동 풀이, 알고리즘 면접 준비 도구 등 "반복 시도에서 경험을 축적해야 하는" 코드 에이전트 제품에 직접 적용 가능하다.