EVE-Agent: Evidence-Verifiable Self-Evolving Agents

Self-evolving agents should not train on examples they cannot justify. Data-free self-evolving search agents offer a scalable route to systems that generate their own questions, answer them, and improve from their own feedback without human annotations. Yet, without verifiable evidence, this loop can reward fluent but unsupported examples, turning the self-generated curriculum into an opaque and potentially unreliable training signal. We argue that evidence verifiability is a prerequisite for trustworthy self-evolution in search agents: each generated instance should include not only an answer but also a source-grounded span whose contribution to that answer can be measured. We introduce EVE-Agent, an Evidence-Verifiable Self-Evolving Agent that operationalizes this principle through a modification to the proposer--solver framework. The proposer generates a question, an answer, and a verbatim evidence span. An evidence verifier then rewards the span according to the marginal accuracy gain when the evidence is provided. This produces a training signal that favors evidence that genuinely helps answer the question, without requiring oracle answers, human labels, or external annotations. EVE-Agent leaves the backbone model, retriever, search tool, and optimization framework unchanged. Experiments show that EVE-Agent substantially improves evidence-grounded correctness over prior self-evolving search agents. The resulting curriculum is not merely self-generated but auditable by construction: each training example carries an inspectable source span that explains why it should be trusted.

📋 한 줄 요약

**[Self-Evolving Search Agent / Evidence Verification]** EVE-Agent가 proposer가 question·answer·verbatim evidence span을 함께 생성하면, verifier가 evidence 제공 시 marginal accuracy gain으로 보상 — 오라클·인간 라벨 없이도 evidence-grounded correctness 대폭 향상.

🎯 핵심 기여도

Self-evolving 에이전트가 정당화 불가능한 예제로 학습하면 안 된다는 원칙 — data-free self-evolving search agent가 스스로 질문·답·feedback을 만들어 개선하지만 verifiable evidence 없으면 유창하나 unsupported 예제를 보상해 opaque·신뢰 불가능한 학습 신호로 변할 위험 지적.
Evidence verifiability를 trustworthy self-evolution의 전제조건으로 설정 — 생성된 각 instance가 답뿐 아니라 답에 대한 기여도가 측정 가능한 source-grounded span을 포함해야 함을 주장.
EVE-Agent(Evidence-Verifiable Self-Evolving Agent) 도입 — proposer–solver 프레임워크 수정을 통해 원칙을 운영화.
Proposer가 질문·답·verbatim evidence span을 생성하고 evidence verifier가 evidence 제공 시 marginal accuracy gain에 따라 보상 — 오라클 답·인간 라벨·외부 annotation 없이도 답에 genuinely 도움이 되는 evidence를 favor하는 학습 신호 생성.

💡 핵심 아이디어

Self-evolving 에이전트의 신뢰성은 evidence verifiability에 의해 결정되며, span의 marginal contribution을 측정해 보상하면 외부 라벨 없이도 auditable·trustworthy curriculum이 자연스럽게 형성된다.

🔬 기술적 접근법

**방법론**: EVE-Agent — proposer–solver + evidence verifier on marginal gain.
**핵심 기법**: (1) Proposer가 question·answer·verbatim evidence span을 동시에 생성, (2) Evidence verifier가 evidence 제공 vs 미제공 시 marginal accuracy gain 측정, (3) Gain에 따라 evidence quality 보상, (4) 백본 모델·retriever·search tool·optimizer는 그대로 유지(plug-in 모듈), (5) 오라클 답·인간 annotation 없이 동작.

📊 주요 결과

EVE-Agent가 prior self-evolving search agent 대비 evidence-grounded correctness substantially 향상.
결과 curriculum이 self-generated일 뿐 아니라 by construction auditable.
각 학습 예제가 inspectable source span을 동반 — 왜 신뢰할 만한지가 명시.

💭 의의 및 한계

**의의**: Self-evolving 학습의 truthfulness·auditability 문제 해결, evidence를 first-class 학습 신호로 격상, 검색 도구 의존 LLM 에이전트의 신뢰성 향상에 일반 적용 가능. **한계**: Verbatim span 의존 — paraphrastic·multi-hop evidence 표현 한계, marginal gain 측정의 계산 비용, search 도메인 외 적용 일반화 필요.

🚀 실용적 활용

Search-augmented 에이전트의 신뢰성 향상.
Self-improving 시스템의 audit·거버넌스 도구.
인간 annotation 비용 없는 데이터 합성.