SkillEvo: Self-Renewing Evolution Gradients from Multi-Turn Interaction Feedback

Agent Skills are today either hand-authored or produced in a single LLM generation pass, and consequently possess no closed loop through which they might improve from the interaction failures they actually cause. Recent work does close this loop, but derives its feedback from single-turn question-answering evaluation. The consequence is a sharp asymmetry: once the first round has patched the gaps that a single exchange can reveal, the evolution gradient decays, the defects that surface only across multiple turns remain invisible, and evolution stalls. Governance in these systems is likewise driven by an end-to-end verification score, a scalar gate that can reject a degraded candidate but can neither localize nor repair its structural cause. We argue that the binding constraint on sustained skill evolution is neither editing capability nor the number of iterations, but whether the evaluation feedback keeps supplying trustworthy evolution gradients. We introduce SkillEvo, in which trustworthy feedback generates the gradient and controllable governance constrains its direction. The first component recasts multi-turn user simulation from an evaluation endpoint into a feedback generator: follow-up questions expose defects layer by layer, so that every round of revision both consumes feedback and produces new feedback. The second replaces the passive rejection of a scalar gate with an independent governance layer that actively repairs factual degradation and structural bloat, preventing the gradient from drifting as degradation accumulates. Across six categories of cloud services, 9 production Skills, and 98 skill-reference files, SkillEvo surpasses self-reflection-based evolution by 23.0 points and single- turn-QA-driven evolution by 15.4 points.

한 줄 요약

SkillEvo는 다중 턴 인터랙션 피드백을 기반으로 신뢰할 수 있는 진화 경사를 생성하고, 구조적 지식 시스템을 유지하며 스킬을 지속적으로 개선하는 프레임워크이다.

핵심 기여도

다중 턴 사용자 시뮬레이션을 평가 엔드포인트에서 피드백 생성기로 재구성하여, 각 턴이 새로운 경사를 생성하도록 함.
신뢰할 수 있는 피드백의 3가지 조건(커버리지, 정확도, 속인가능성)을 정식화하고, 이에 따라 결함을 계층적으로 드러냄.
구조적 지식 시스템으로 스킬을 인식하고, 지식 팽창, 참조 손상, 사실 과일반화를 그래프 구조 진단을 통해 수리함.
9개의 실제 운영 스킬에서 기존 스킬 대비 51.8점, 단일 턴 QA 기반 진화 대비 15.4점 개선됨.

핵심 아이디어

기존 스킬 진화는 단일 턴 QA 평가에서 피드백을 얻어 경사를 생성하지만, 이는 다중 턴 상호작용에서 드러나는 결함을 감지하지 못해 경사가 감소하고 진화가 멈춘다. SkillEvo는 이 문제를 해결하기 위해 다중 턴 사용자 시뮬레이션을 피드백 생성기로 전환하여, 각 턴이 새로운 경사를 생성하도록 설계했다. 또한, 단순히 점수 기반 거부에 의존하는 기존 지배 구조를 대체하여, 지속적인 구조적 일관성을 유지하는 독립적인 지배 레이어를 도입했다. 이는 사실 일관성과 구조 일관성을 유지함으로써, 퇴화가 누적되지 않도록 한다.

기술적 접근법

**Trustworthy Feedback**: 다중 턴 사용자 시뮬레이션을 피드백 생성기로 전환.
**Intent State Machine**: 커버리지 확보.
**Dual-sided Orthogonal Evaluation**: 정확도 보장.
**Collective Attribution**: 속인가능성 확보.
**Controllable Governance**:
**Graph-Structural Diagnosis**: 지식 팽창, 참조 손상, 사실 과일반화를 수리.
**Fact Consistency & Structural Consistency**: 퇴화 방지.
**평가 지표**:
**TSR (Task Solved Rate)**: 60점 이상이면 해결.
**RegR (Regression Rate)**: 이전 라운드에서 성공했지만 현재 실패한 티켓 비율.
**Bloat**: `SKILL.md`과 참조 파일의 줄 수 증가율.

주요 결과

**9개 실제 운영 스킬**에서 기존 스킬 대비 TSR 51.8점, 단일 턴 QA 기반 진화 대비 15.4점 개선됨.
**RegR**는 SkillEvo가 0.05로 유지되며, 퇴화율이 낮음.
**Bloat**은 1.2%로 유지되며, 구조적 일관성이 보장됨.
**Verifier reliability**는 90% 이상의 전문가와의 일치율을 보여 신뢰도 높음.

의의 및 한계

SkillEvo는 단일 턴 QA 기반 진화의 한계를 극복하고, 다중 턴 상호작용에서 드러나는 결함을 지속적으로 감지·수리할 수 있는 체계적인 프레임워크를 제시한다. 이는 클라우드 서비스 스킬의 자동화된 유지보수를 가능하게 하며, 학술적으로는 신뢰할 수 있는 피드백과 지배 구조의 중요성을 강조한다. 그러나, 모든 실제 상황에서의 다중 턴 시뮬레이션의 정확도와 커버리지를 확보하는 것은 여전히 도전 과제이며, 특정 도메인에 대한 일반화 가능성도 한계가 있을 수 있다.

실용적 활용

SkillEvo는 클라우드 서비스 운영 환경에서 고객 지원 스킬의 자동화된 유지보수에 적용 가능하며, 특히 Tencent Cloud와 같은 대규모 운영 환경에서 실시간 피드백 기반의 지속적 개선을 지원한다. 또한, 다중 턴 대화 기반의 챗봇이나 지능형 에이전트 개발에도 활용될 수 있다.