Mendel G\"odel Machine: Recursive Self-Improving Coding Agents via Comparative Evolution

Self-improving coding agents that iteratively rewrite their own source code have demonstrated impressive performance on coding tasks. However, existing solutions generally derive self-modification from a single failure trajectory at a time, overlooking rich comparative signals available in the agent's expanding archive of past attempts. According to Mendelian principles of controlled inheritance, we introduce Mendel G\"odel Machine (MGM). In addition to the general single-trajectory clonal mutation, MGM includes two new types of self-modification that better utilizes evidences accumulated: the reaction-norm mutation edits an agent based on its trajectories on multiple tasks simultaneously, and the cross-lineage hybridization edits an agent using the trajectory of a reference agent from another lineage on the same task. Under an additive fitness landscape model, we prove theoretically and demonstrate via controlled surrogate simulation that the new strategies facilitate a faster and better convergence over single-trajectory baselines. Experiments on SWE-bench and Polyglot confirm MGM's consistent improvement in performance, efficiency, and generalizability.

한 줄 요약

Mendel G\"odel Machine(MGM)은 비교적 신뢰성 높은 자기 개선 전략을 통해 코드 에이전트 성능을 50.8%에서 93.3%까지 향상시킨다.

핵심 기여도

**reaction-norm mutation**과 **cross-lineage hybridization**이라는 두 가지 새로운 자기 수정 전략 도입.
**SWE-bench**와 **Polyglot** 데이터셋에서 기존 HGM 대비 42.5% 이상 성능 향상.
Qwen3.6-35B-A3B 기반 에이전트를 50.8%에서 93.3%로 향상시키며, GPT-5에 비해 약 117배 적은 파라미터로 동일 수준 성과 달성.
**DeepSeek-V4-Pro**로 전이 시 96.9% 성능 달성, 모델 독립적 일반화 능력 입증.

핵심 아이디어

기존 자기 개선 에이전트는 단일 실패 트래젝토리만 기반으로 코드를 수정하는 반면, MGM은 **reaction-norm mutation**과 **cross-lineage hybridization**을 통해 **다중 태스크 및 다른 라인에이지의 성공/실패 트래젝토리**를 비교 분석하여 더 효과적인 수정을 유도한다.

**reaction-norm mutation**은 에이전트가 여러 태스크에서 보이는 성공/실패 패턴(리액션 노름)을 기반으로 유전적 결함을 추정하고, **cross-lineage hybridization**은 다른 라인에이지의 성공 트래젝토리를 참조하여 유용한 행동을 이식한다. 이는 **Mendelian 유전 원리**에 기반한 비교적 신뢰성 높은 자기 수정 전략이다.

이러한 접근은 **단일 트래젝토리 기반**의 기존 방법과 비교해 더 빠른 수렴과 더 높은 성능 향상을 이끌어내며, **추가 태스크 평가 없이 기존 아카이브 데이터만 활용**하여 효율성을 높인다.

기술적 접근법

**MGM**은 **clonal mutation**, **reaction-norm mutation**, **cross-lineage hybridization** 세 가지 자기 수정 전략을 포함.
**reaction-norm mutation**은 에이전트의 여러 태스크 성과를 기반으로 유전적 결함을 추정.
**cross-lineage hybridization**은 다른 라인에이지의 성공 트래젝토리를 참조하여 수정.
**additive fitness landscape 모델**을 사용해 유전적 거리(Hamming distance)를 기준으로 자기 개선 효과를 수학적으로 분석.
**Monte Carlo 시뮬레이션**을 통해 비교 전략이 수렴 속도를 1.6× 이상 향상시킴을 입증.
**HGM**과 비교해 **SWE-bench**, **Polyglot**에서 평균 42.5% 성능 향상.

주요 결과

**Polyglot-60**에서 Qwen3.6-35B-A3B 기반 에이전트 성능 50.8% → 93.3% 향상.
**GPT-5** 대비 약 117× 적은 파라미터로 동일 수준 성과 달성.
**DeepSeek-V4-Pro**로 전이 시 96.9% 성능 달성.
**SWE-bench Verified**에서 HGM 대비 +42.5% 성능 향상.
**reaction-norm mutation** 제거 시 8.2% 성능 저하, **cross-lineage hybridization** 제거 시 12.7% 성능 저하.

의의 및 한계

MGM은 **유전적 비교 정보를 활용한 자기 수정**을 통해 기존 방법 대비 더 빠르고 안정적으로 수렴하며, **작은 모델에서 학습한 스캐폴드를 큰 모델로 전이**할 수 있는 유연성을 제공한다. 이는 **스케일러블한 자기 개선 에이전트 개발**에 기여할 수 있다.

하지만, MGM의 성능은 **유전적 결함이 희소하다는 가정**과 **유의미한 비교 트래젝토리가 존재한다**는 조건에 의존한다. 실패 원인이 복잡하거나 비교 정보가 부족한 경우, **reaction-norm mutation**과 **cross-lineage hybridization**의 효과가 제한될 수 있다. 또한, **에디터가 비교 정보를 효과적으로 활용할 수 있어야** 하며, 이는 모델의 편집 능력에 따라 달라질 수 있다.

실용적 활용

MGM은 **소규모 모델에서 학습한 코드 에이전트를 대규모 모델로 전이**할 수 있어, **비용 효율적인 에이전트 개발**에 유용하다. 소프트웨어 엔지니어링 자동화, 코드 리팩토링, 테스트 자동화 등에서 **높은 정확도와 효율성**을 요구하는 산업 현장에 적용 가능하다.