Embedding by Elicitation: Dynamic Representations for Bayesian Optimization of System Prompts

System prompts are a central control mechanism in modern AI systems, shaping behavior across conversations, tasks, and user populations. Yet they are difficult to tune when feedback is available only as aggregate metrics rather than per-example labels, failures, or critiques. We study this aggregate feedback setting as sample-constrained black-box optimization over discrete, variable-length text. We introduce ReElicit, a Bayesian optimization framework based on \emph{embedding by elicitation}. Given a task description, previously evaluated prompts, and scalar scores, an LLM elicits a compact, interpretable feature space and maps prompts into it. Leveraging a probabilistic Gaussian process surrogate, an acquisition function then selects target feature vectors, which the LLM realizes and refines into deployable system prompts. Re-eliciting the feature space as new evaluations arrive lets the representation adapt to the observed prompt-score history. We evaluate the setting using offline benchmark accuracy as a controlled aggregate proxy: the optimizer observes one scalar score per prompt and no per-example labels, errors, or critiques. Across ten system prompt optimization tasks with a 30 total evaluation budget, ReElicit achieves the strongest aggregate performance profile among representative aggregate-only prompt-optimization baselines. These results suggest that LLMs can serve as adaptive semantic representation builders, not only prompt generators, for Bayesian optimization over natural-language artifacts.

한 줄 요약

**[시스템 프롬프트 최적화 / Bayesian Optimization]** LLM이 동적으로 elicit한 해석 가능한 특징 공간 위에서 시스템 프롬프트를 Bayesian Optimization으로 튜닝하는 ReElicit 프레임워크 제안.

핵심 기여도

시스템 프롬프트가 LLM 시스템의 중심 제어 메커니즘임에도 피드백이 per-example 라벨이 아닌 aggregate 스칼라 점수로만 주어지는 sample-constrained black-box 최적화 문제 정의.
"embedding by elicitation": 태스크 설명·이전 평가된 프롬프트·점수를 받아 LLM이 compact·해석 가능한 특징 공간을 elicit하고 프롬프트를 그 공간으로 매핑.
Gaussian Process surrogate + acquisition function으로 target feature vector를 선택, 이를 다시 LLM이 deployable 시스템 프롬프트로 실현·refine. 새 평가가 쌓일수록 특징 공간을 re-elicit해 표현이 데이터에 적응.
10개 시스템 프롬프트 최적화 태스크 + 총 30 evaluation budget의 통제 평가에서 대표적 aggregate-only baseline 대비 가장 강한 종합 성능 프로파일을 보임.

핵심 아이디어

LLM은 단순한 prompt generator가 아니라 "Bayesian Optimization을 위한 적응형 의미 표현 빌더"로 사용될 수 있다. 흐릿한 자연어 prompt 공간을 LLM이 동적으로 만들어낸 해석 가능한 feature 공간으로 옮겨 그 위에서 GP·acquisition을 돌리면, aggregate 점수만으로도 효율적으로 최적 프롬프트를 찾을 수 있다.

기술적 접근법

**모델/방법론**: ReElicit = LLM 기반 dynamic feature elicitation + Gaussian Process BO + LLM 기반 prompt realization.
**핵심 기법**: 태스크 설명+히스토리에서 LLM이 elicit하는 compact feature space, GP surrogate와 acquisition function으로 target vector 선택, LLM이 그것을 deployable prompt로 realize, 평가가 쌓일 때마다 특징 공간 re-elicit.

주요 결과

10개 시스템 프롬프트 최적화 태스크 + 30 evaluation budget의 통제 평가에서 가장 강한 종합 성능 프로파일.
aggregate-only 피드백만으로 (per-example 라벨·실패 사례·critique 없이) 동작.
새 평가가 쌓일 때마다 특징 공간이 prompt-score 히스토리에 맞춰 적응함을 정량 확인.

의의 및 한계

**의의**: LLM의 역할을 "출력 생성"을 넘어 "BO를 위한 의미 임베딩 구성"으로 확장, 자연어 아티팩트 최적화의 새로운 디자인 패턴 제시. **한계**: 특징 공간이 elicit 단계의 LLM 품질에 의존, 매우 좁은 budget·매우 큰 prompt 공간에서의 일반화는 추가 검증 필요.

실용적 활용

챗봇·에이전트의 시스템 프롬프트를 사용자 만족도·태스크 성능 지표로만 튜닝.
A/B 테스트로 aggregate 메트릭만 사용 가능한 production LLM 시스템의 프롬프트 최적화.
다른 자연어 아티팩트(가이드라인, 정책 텍스트) 최적화로의 확장 연구.