SkillOpt-Lite: Better and Faster Agent Self-evolution via One Line of Vibe

While skill optimization for autonomous agents has gained traction, existing methods rely on complex pipelines. This leaves a fundamental question unaddressed: What constitutes a minimal viable pipeline for skill optimization, where every component is justified by theory or empirical necessity? We formalize skill optimization via Zeroth-Order (ZO) optimization, mapping classical counterparts (central difference, trust regions) to recent literature. Noting that unlike blind numerical perturbations in classical ZO, skill trajectories serve as interpretable debugging feedback. Grounded in Claude Code philosophy and PAC learning, we establish three principles for convergence and generalization: file-system-based trajectory exploration, consensus attribute mining, and independent validation gating. Eliminating redundancies, we propose SkillOpt-Lite. It accelerates convergence and outperforms full SkillOpt: improving LiveMath by +8.8 points on GPT-5.5 and +25.4 points on GPT-5.4-nano, allowing the nano model to surpass standard GPT-5.4 optimized by SkillOpt. Finally, we integrate our framework into production coding agents like VSCode Copilot, enabling developers to evolve agent skills via one line of vibe. Because our framework treats all agent components simply as standard editable code, this minimal pipeline naturally generalizes to full harness optimization (HarnessOpt). On SpreadsheetBench, HarnessOpt enables GPT-5.4-nano to achieve 0.7758 accuracy, outperforming the larger GPT-5.5 running standard pipelines (0.7620). Code is available at https://github.com/EvolvingLMMs-Lab/SkillOpt-Lite.

한 줄 요약

SkillOpt-Lite는 Zeroth-Order 최적화와 파일 기반 디버깅을 결합한 최소한의 파이프라인으로, GPT-5.4-nano 모델에서 GPT-5.5를 초과하는 성능을 달성한다.

핵심 기여도

**Zeroth-Order 최적화**와 **PAC 학습 이론**을 기반으로, 기존 SkillOpt의 복잡한 모듈(예: mini-batch tree merging, rejected-edit buffer)을 제거한 **SkillOpt-Lite**를 제안.
**LiveMath**에서 GPT-5.5 대비 +8.8점, GPT-5.4-nano 대비 +25.4점 개선.
**SpreadsheetBench**에서 GPT-5.4-nano가 0.7758 정확도를 달성해, GPT-5.5(0.7620)를 상회.
**VSCode Copilot** 플러그인으로 개발자가 "one line of vibe"로 에이전트 기술을 진화시킬 수 있도록 통합.

핵심 아이디어

기존 SkillOpt는 복잡한 알고리즘(예: mini-batch tree merging, textual learning-rate schedules)을 사용하지만, 이는 LLM이 커질수록 불필요한 과부하를 유발한다. 본 연구는 Zeroth-Order 최적화를 기반으로, **skill trajectories**를 **interpretable debugging feedback**으로 활용하는 새로운 패러다임을 제시한다. 이는 기존의 숫자 기반 perturbation과 달리 의미 있는 실행 흐름을 기반으로 최적화를 수행한다.

또한, **PAC 학습 이론**과 **Unix/Code 파일 철학**을 결합하여 세 가지 핵심 원칙을 도출:
1. **파일 시스템 기반 trajectory 탐색**
2. **트레이젝토리 간 합의 속성 채굴 (consensus attribute mining)**
3. **독립 검증 게이팅 (independent validation gating)**

이를 통해 SkillOpt-Lite는 **reflection pooling**, **update damping**, **rejection buffer** 등 복잡한 모듈을 제거하고, **단일 파일 기반 디버깅 루프**로 최적화를 수행한다.

기술적 접근법

**Zeroth-Order 최적화**를 기반으로, **central difference**, **trust regions** 등 기존 최적화 기법을 매핑.
**Skill trajectories**를 **flat file**로 저장하고, **autonomous coding agent**가 이를 수정.
**Consensus attribute mining**을 통해 **cross-task invariants**를 캡처.
**Independent validation gating**을 통해 **β_exp** 제거, 일반화 오류 감소.
**SkillOpt-Lite**는 **reflection pooling**, **update damping**, **rejection buffer** 제거.
**VSCode Copilot** 플러그인으로 **IDE 내부에서 파일 경로 제한 없이** 실행 가능.

주요 결과

**LiveMath**에서 GPT-5.5 대비 +8.8점, GPT-5.4-nano 대비 +25.4점 개선.
**SpreadsheetBench**에서 GPT-5.4-nano가 0.7758 정확도 달성 (GPT-5.5: 0.7620).
**ALFWorld**에서 GPT-5.4-nano가 81.3% 성능 달성 (+9.5 대비 SkillOpt).
**SkillOpt-Lite**는 **4개 에포크 동안 실행된 SkillOpt 전체 파이프라인**보다 빠르고 성능 우수.

의의 및 한계

SkillOpt-Lite는 기존 복잡한 최적화 파이프라인을 단순화하면서도, **GPT-5.4-nano**와 같은 가벼운 모델에서도 **GPT-5.5**를 상회하는 성능을 달성함으로써, **LLM 최적화의 새로운 패러다임**을 제시한다. 특히, **IDE 통합**을 통해 개발자가 **실제 작업 환경에서 즉각적인 최적화**를 수행할 수 있다는 점에서 실용적 가치가 높다.

하지만, 본 연구는 **파일 기반 접근법의 일반화 가능성**에 대한 제한적인 실험만 수행했으며, **다양한 도메인에서의 확장성**은 추가 연구가 필요하다. 또한, **SkillOpt-Lite가 모든 복잡도를 제거하는 것이 아님**을 명시하며, **일부 최적화 기법은 여전히 필요**하다고 언급한다.

실용적 활용

SkillOpt-Lite는 **VSCode Copilot** 플러그인으로 개발자에게 제공되어, **실제 코드 작성 환경에서 에이전트 기술을 한 줄의 명령어로 최적화**할 수 있다. 이는 **코드 작성, 스프레드시트 처리, 자연어 이해** 등 다양한 LLM 활용 분야에서 즉각적인 성능 향상과 개선 가능성을 제공한다.