📋 한 줄 요약
**[Lean 4 Proof Optimization]** ImProver 2가 expert-iteration·neurosymbolic scaffold·구조 메트릭으로 7B 모델을 학습 — 동일 family의 훨씬 큰 모델 outperform·중급 frontier 모델 수준의 자동 증명 최적화.
🎯 핵심 기여도
- Formal mathematics 라이브러리가 빠르게 확장되며 verified proof를 유지보수성·neural prover 학습 데이터 품질 향상 목적으로 refactor할 필요가 커지고 있지만, scalable proof optimization이 이종(heterogeneous)·휴리스틱 목적, 데이터 희소성, 높은 학습·추론 비용에 의해 저해되는 문제 지적.
- ImProver 2 제안 — Lean 4의 자동 proof optimization을 위한 neurosymbolic 프레임워크. data-efficient expert-iteration 파이프라인과 formal structure + lightweight informal abstraction을 동시 노출하는 scaffold 결합.
- 구조적 증명 특성을 캡처하는 메트릭 suite 도입.
- ImProver 2로 학습한 7B 파라미터 모델이 동일 family 내 orders-of-magnitude 큰 모델 outperform, 메트릭 전반에서 중급 frontier 모델과 경쟁력 확보.
- Neurosymbolic scaffold가 작은·frontier 모델 모두에서 성능을 크게 향상시킴 추가 시연.
💡 핵심 아이디어
Proof optimization은 단순 텍스트 생성으로 환원할 수 없으며 formal 구조와 informal 추상을 함께 노출하는 scaffold + expert iteration의 결합이 작은 모델로도 research-level 증명을 재구조화할 수 있게 한다.
🔬 기술적 접근법
- **방법론**: Neurosymbolic 프레임워크 — expert-iteration + dual scaffold (formal + informal).
- **핵심 기법**: (1) Data-efficient expert-iteration 파이프라인, (2) Formal structure 노출 + lightweight informal abstraction 동시 제공 scaffold, (3) 구조적 증명 속성 캡처 메트릭 suite, (4) 7B 모델 학습 — 동일 family 큰 모델보다 우수, (5) Small·frontier 모델 모두에서 scaffold의 효과 검증.
📊 주요 결과
- 7B 모델이 동일 family의 훨씬 큰 모델 outperform.
- 다양한 구조적 메트릭에서 중급 frontier 모델 수준의 성능.
- Scaffold가 small·frontier 모델 양쪽에서 성능 substantially 개선.
- Research-level proof를 복잡·다양 메트릭에 걸쳐 재구조화하는 능력 입증.
💭 의의 및 한계
**의의**: Proof optimization을 scalable·learnable task로 정립, 작은 모델로 대형 모델 성능 달성하는 cost-efficiency, formal+informal scaffold의 일반화 가능 설계 패턴 제시. **한계**: Lean 4 특화 — 다른 정형 시스템(Coq·Isabelle) 일반화 필요, 메트릭 suite의 평가 일관성, expert-iteration의 데이터 효율성 한계.
🚀 실용적 활용
- Lean 4 라이브러리 유지보수 자동화.
- Neural prover의 학습 데이터 품질 개선.
- 작은 모델 기반 비용 효율적 formal AI.