Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering

Recursive self-improvement (RSI) requires AI systems that improve the process of building AI (i.e., AI4AI); machine learning engineering (MLE) offers a concrete, executable testbed for studying this capability. We introduce OpenMLE, an open full-stack system for RSI research in MLE, spanning verifiable task environments with execution feedback (OpenMLE-Gym), operator learning (OpenMLE-RL), and long-horizon search (OpenMLE-Evo). On this stack we post-train Frontis-MA1 (35B) as a meta-evolution agent for MLE, aligning post-training and inference around four atomic program-evolution operators (Draft, Improve, Debug, Crossover): the same operators are trained via execution-grounded SFT and RL on data deduplicated against all evaluation benchmarks, then composed into long-horizon search, coupling learning and evolution in a single loop. On MLE-Bench Lite under a 12-hour per-task budget on one RTX 4090 capped at 12 GB VRAM, Frontis-MA1 (35B) improves Medal Average from 39.39% to 60.61% over its base model with OpenMLE-Evo, and reaches 71.21% with OpenMLE-Evo-Max (benchmark-independent experience priors and asynchronous search), exceeding GPT-5.5 + Codex and approaching GPT-5.6 Sol and the 2.8T Kimi K3. On held-out NatureBench Lite, both components transfer: with the framework fixed, swapping in the trained model raises Match-SOTA from 50% to 70%; with the model fixed, swapping in OpenMLE-Evo raises it from 20% to 50%. We release the model weights and the full OpenMLE stack to enable reproducible research on executable AI4AI toward RSI. Code: https://github.com/FrontisAI/OpenRSI

한 줄 요약

Frontis-MA1은 MLE 분야에서 재귀적 자기 개선을 위한 AI4AI 모델로, OpenMLE 스택과 연계해 Medal Average 60.61%를 달성한다.

핵심 기여도

OpenMLE 스택(OpenMLE-Gym, OpenMLE-RL, OpenMLE-Evo)을 소개하여 RSI 연구를 위한 실행 가능한 테스트베드를 제공.
Frontis-MA1 (35B)를 MLE의 메타-진화 에이전트로 사후 학습하여 Draft, Improve, Debug, Crossover 4개 연산자를 기반으로 학습-진화 루프를 구축.
MLE-Bench Lite에서 Medal Average 60.61% 달성 (기본 모델 대비 +21.22%) 및 NatureBench Lite에서 Match-SOTA 70% 달성.
모델 가중치와 OpenMLE 스택을 공개하여 재현 가능한 AI4AI 연구를 촉진.

핵심 아이디어

Frontis-MA1은 AI가 AI를 개선하는 AI4AI의 핵심 개념인 재귀적 자기 개선(RSI)을 MLE 분야에 구현하기 위해 설계되었다. 기존 연구는 주로 단일 단계의 자동화에 집중했지만, 이 연구는 Draft, Improve, Debug, Crossover 4개 연산자를 통해 학습과 진화를 결합한 **단일 루프** 구조를 제안한다. 이 연산자들은 실행 기반의 SFT와 RL을 통해 학습되며, OpenMLE-Evo를 통해 장기적 탐색이 가능하다. 이는 AI가 스스로 개선 과정을 설계하고 실행하는 기반을 제공한다.

기술적 접근법

**OpenMLE-Gym**: 실행 피드백이 있는 검증 가능한 작업 환경.
**OpenMLE-RL**: 연산자 학습을 위한 강화 학습.
**OpenMLE-Evo**: 장기적 탐색을 위한 진화 알고리즘.
**Frontis-MA1 (35B)**: 4개 연산자(Draft, Improve, Debug, Crossover)를 기반으로 사후 학습된 메타-진화 에이전트.
**하드웨어 제약**: 12시간당 작업, 1개의 RTX 4090 (12GB VRAM) 기준.

주요 결과

MLE-Bench Lite에서 Frontis-MA1 (35B)는 OpenMLE-Evo를 사용해 Medal Average 60.61% 달성 (기본 모델 대비 +21.22%).
OpenMLE-Evo-Max (비독립적 경험 사전 및 비동기 탐색)를 사용하면 71.21% 달성 (GPT-5.6 Sol, Kimi K3 2.8T에 근접).
NatureBench Lite에서 모델 교체 시 Match-SOTA 50% → 70%, OpenMLE-Evo 교체 시 20% → 50%.

의의 및 한계

이 연구는 AI4AI 분야에서 RSI 개념을 구현하는 첫 사례로, MLE 분야에서 실행 가능한 AI 개선 프레임워크를 제시한다. OpenMLE 스택의 공개는 연구 재현성을 높이고, AI 개선 과정을 명확히 분석할 수 있는 기반을 제공한다. 그러나 MLE-Bench Lite와 NatureBench Lite는 비교적 제한된 범위의 데이터셋이며, 더 복잡한 MLE 시나리오에서의 일반화 능력은 추가 연구가 필요하다.

실용적 활용

Frontis-MA1과 OpenMLE는 자동화된 ML 파이프라인 개선, 코드 생성 및 디버깅, 연구 효율성 향상 등 MLE 분야에서 즉각적인 활용이 가능하다. 특히, AI 개발 과정에서 인간 개입을 최소화하면서도 품질을 유지하는 산업적 응용에 적합하다.