Flash-BoN: Instant Drafts for Inference-Time Scaling in Diffusion Models

Inference-time scaling for text-to-image generation has progressed from simple Best-of-N (BoN) sampling to guided search methods that verify and steer candidate trajectories at intermediate denoising steps. These approaches focus on when and how often to verify during denoising but largely treat the cost of generation itself as fixed. Moreover, the standard practice of comparing methods by number of function evaluations (NFEs) counts only denoising forward passes and ignores verifier overhead, which can distort efficiency rankings. We show that under wall-clock evaluation, simple BoN already matches or outperforms several guided search techniques, suggesting that compute is better spent on broader exploration than on repeated intermediate verification. This motivates Flash-BoN, which generates a large pool of inexpensive draft candidates by combining three complementary acceleration knobs: timestep truncation, layer skipping, and activation proxies into a single configuration optimized once per model. An efficient multi-stage verification procedure then identifies the most promising draft, which is refined at full quality. Across three benchmarks and three model scales, Flash-BoN consistently outperforms all baselines under fixed wall-clock budgets, with gains that grow at larger model scales (+8% AUC). We further show that our strategy combines well and improves existing orthogonal techniques such as reflection-based prompt optimization (+16% AUC). The gains correlate with increased candidate diversity, which also enables draft-guided selection to accelerate RL post-training convergence.

한 줄 요약

Flash-BoN은 생성-검증-정제 파이프라인을 통해 고정된 시간 예산 내에서 더 많은 후보를 탐색하여 확산 모델의 추론 성능을 향상시키는 방법이다.

핵심 기여도

NFE 기준 대신 벽시계산(wall-clock) 기준에서 BoN이 기존 가이드드 서치보다 우수함을 보임.
timestep truncation, layer skipping, activation proxy를 결합한 draft generation 정책을 모델별로 최적화하여 제안.
다단계 검증 절차(점별 점수 + 대비 점수)를 통해 후보 중 최적을 선택.
3개 벤치마크, 3개 모델 규모에서 기존 기법 대비 +8% AUC 개선.
Reflection-Tuning과 같은 기존 기법과 결합 시 +16% AUC 개선.

핵심 아이디어

기존 추론 시 스케일링 기법은 생성 과정의 비용을 고정하고, 중간 검증 시점만 조절하는 경향이 있었다. 그러나 이는 검증 비용을 무시하여 효율성 평가가 왜곡될 수 있다. Flash-BoN은 벽시계산 기준에서 더 많은 후보를 생성하고 검증하는 방식을 제안한다. 이는 단순한 Best-of-N (BoN)이 기존 가이드드 서치 기법보다 더 높은 효율성을 보인다는 사실에서 영감을 받았다.

핵심 아이디어는 생성 단계에서 계산 비용을 줄이면서도 후보 다양성을 확보하는 데 있다. 이를 위해 timestep truncation, layer skipping, activation proxy라는 세 가지 가속 기법을 결합한 draft generation 정책을 제안한다. 이 정책은 모델별로 단 한 번의 최적화를 통해 설정되며, 후속 검증 단계에서 정확도가 유지되도록 보장한다. 또한, 다단계 검증 절차를 통해 후보 중 최고 품질을 선택함으로써 정제 단계의 계산 비용을 최소화한다.

기술적 접근법

**Draft generation**: timestep truncation, layer skipping, activation proxy를 결합한 정책을 모델별로 최적화하여 설정.
**Multi-stage verification**: 빠른 점별 점수(pruning) + 대비 점수(정제)를 결합한 절차.
**Model scales**: Wan 2.1 1.3B, Wan 2.1 14B, FLUX.1-dev.
**Benchmarks**: GenAI-Bench, GenEval, UniGenBench.
**Evaluation metric**: VQAScore, GenEval의 구조적 제약 평가, UniGenBench의 복합 평가 지표.
**Hardware**: NVIDIA H200 GPU, 벽시계산 기준 평가.
**Optimization**: 이산 최적화 문제로 정식화하여 모델별 최적 정책 결정.

주요 결과

GenAI-Bench, GenEval, UniGenBench 3개 벤치마크에서 기존 기법 대비 +8% AUC 개선.
14B 규모 모델에서 +8% AUC, Reflection-Tuning과 결합 시 +16% AUC.
벽시계산 기준에서 BoN이 BFS, DFS, ZOS보다 더 높은 효율성을 보임.
후보 다양성과 AUC 개선 사이의 상관계수: Pearson r = 0.75.
RL post-training에서 Flash-Flow-GRPO는 기존 기법 대비 10× 적은 gradient step으로 수렴.

의의 및 한계

Flash-BoN은 기존 추론 시 스케일링 기법에서 무시되었던 생성 비용을 줄이는 방식을 제안함으로써, 고정된 시간 예산 내에서 더 많은 후보를 탐색할 수 있도록 한다. 이는 벽시계산 기준에서 기존 기법 대비 우수한 성능을 보이며, 특히 대규모 모델에서 더 큰 개선 효과를 얻을 수 있다. 또한, 기존 기법과 모듈형식으로 결합 가능하여 유연한 확장성을 제공한다.

하지만, 이 연구는 텍스트-이미지 생성에만 적용되었으며, 텍스트-비디오 생성과 같은 다른 생성 작업으로 확장하는 것은 여전히 개방된 문제이다. 또한, draft 후보의 품질이 낮을 수 있으므로, 검증 모듈의 신뢰성 향상이 필요하다는 한계가 있다.

실용적 활용

Flash-BoN은 생성 모델이 시간 제약이 있는 환경에서 더 높은 품질의 결과를 제공해야 하는 산업적 상황(예: 실시간 이미지 생성, 대규모 모델 배포)에 유용하게 활용될 수 있다. 또한, RL 기반의 후-학습 과정에서 학습 속도를 향상시키는 데도 적용 가능하다.