Open-World Evaluations for Measuring Frontier AI Capabilities

Benchmark-based evaluation remains important for tracking frontier AI progress. But it can both overstate and understate deployed capability because it privileges tasks that can be precisely specified, automatically graded, easy to optimize for, and run with low budgets and short time horizons. We advocate for a complementary class of evaluations, which we term open-world evaluations: long-horizon, messy, real-world tasks assessed through small-sample qualitative analysis rather than benchmark-scale automation. In this paper we survey recent open-world evaluations, identify their strengths and limitations, and introduce CRUX (Collaborative Research for Updating AI eXpectations), a project for conducting such evaluations regularly. As a first instance, we task an AI agent with developing and publishing a simple iOS application to the Apple App Store. The agent completed the task with only a single avoidable manual intervention, suggesting that open-world evaluations can provide early warning of capabilities that may soon become widespread. We conclude with recommendations for designing and reporting open-world evals.

한 줄 요약

**[프런티어 AI 평가 / Open-World Eval]** CRUX 프로젝트는 long-horizon 실세계 task의 정성 평가를 frontier AI에 정기 실시, 첫 사례로 AI 에이전트가 단 1회의 회피 가능 수동 개입만으로 iOS 앱을 Apple App Store에 출시 성공.

핵심 기여도

벤치마크 기반 평가가 frontier AI 진보 추적에 중요하지만, 정밀 명세·자동 채점·low budget·short horizon에 편향되어 deployed capability를 과대·과소 평가 가능 진단.
Open-world evaluation 개념 도입 — long-horizon·messy·real-world task의 소규모 정성 분석 기반 평가.
최근 open-world evaluation 서베이, 강점·한계 식별.
CRUX(Collaborative Research for Updating AI eXpectations) 프로젝트 — 이러한 평가를 정기적으로 수행하는 협력 연구 이니셔티브.

핵심 아이디어

Frontier AI의 deployed capability를 정확히 측정하려면 자동 채점 가능 벤치마크만으론 부족하고, long-horizon·real-world task를 소규모 정성 분석으로 평가하는 open-world evaluation이 보완적으로 필요하며, 이는 곧 일상화될 능력의 early warning을 제공한다.

기술적 접근법

**방법론**: Open-world evaluation 패러다임 + CRUX 프로젝트.
**핵심 기법**: (1) Benchmark 평가의 limitation 분석, (2) Open-world evaluation 정의 — long-horizon·messy·real-world·정성 분석, (3) 최근 사례 서베이, (4) CRUX의 정기 평가 체계, (5) 첫 인스턴스로 AI 에이전트의 iOS 앱 개발·App Store 출시 task 수행.

주요 결과

첫 CRUX 인스턴스: AI 에이전트가 단순 iOS 앱 개발·Apple App Store 출시 task 성공 수행.
단 1회의 회피 가능 수동 개입만 필요.
Open-world evaluation이 곧 widespread 될 capability의 early warning 가능함을 시사.
Open-world eval 설계·보고 권고사항 제시.

의의 및 한계

**의의**: Frontier AI 평가의 패러다임 확장, 벤치마크 한계 보완으로 deployed capability의 정확한 추적, real-world 출시까지 도달하는 에이전트 능력의 구체적 evidence 제공. **한계**: 소규모 정성 분석의 재현성·통계적 신뢰성 한계, 단일 사례(iOS 앱)로 일반화 시기상조, CRUX 정기 평가의 cost·리소스 부담.

실용적 활용

AI 에이전트 deployed capability의 정기 추적.
정책·거버넌스 의사결정의 capability assessment.
Real-world task로의 capability transfer 진단.