FlowBender: Feedback-Aware Training for Self-Correcting Conditional Flows

Conditional diffusion and flow models routinely fail to satisfy the very constraints that define their task. For instance, a depth-conditioned model often produces images whose re-extracted depth disagrees with the input, even though the forward operator--the depth predictor defining the constraint--is available during both training and inference. Existing approaches generally fall into two categories: supervised models that treat the conditioning signal as a static cue and ignore alignment information at inference, and guidance-based methods that consult it through hand-tuned linear updates, typically trading fidelity to the condition against the plausibility of the generated sample. We argue that the fundamental gap in both paradigms is that the model is never trained to utilize its own alignment error. We introduce FlowBender, a closed-loop framework that treats this error as a first-class input, training the network to learn a correction policy conditioned on inference-time feedback. At each step, an unguided look-ahead pass estimates the clean signal, a task-specific deviation is computed via the forward operator, and a refinement pass consumes this signal to produce a corrected velocity. We propose several variants of FlowBender, including a gradient-based formulation for differentiable operators and a zero-order variant for non-differentiable settings such as JPEG compression. For efficient sampling, we introduce a prior-step shortcut that enables closed-loop correction at a minimal additional computational cost. Across image-to-image translation, restoration, and 3D mesh texturing, FlowBender consistently outperforms standard supervised baselines, alignment-loss-augmented training, and state-of-the-art inference-time guidance, improving fidelity and plausibility simultaneously rather than trading them against each other. Project page: https://flow-bender.github.io/

한 줄 요약

FlowBender는 조건부 생성 모델의 정확도와 생성 가능성 모두를 향상시키는 피드백 기반 폐루프 학습 프레임워크이다.

핵심 기여도

FlowBender는 조건부 생성 모델이 자신의 정렬 오류를 학습하도록 훈련하는 폐루프 프레임워크를 제안함.
Zero-order variant를 통해 비미분 가능한 조건(예: JPEG 압축)에도 정렬 오류를 처리 가능하게 함.
Prior-step shortcut을 도입하여 폐루프 정정을 최소한의 추가 계산 비용으로 수행함.
이미지-이미지 변환, 복원, 3D 메시 텍스처링에서 기존 기법 대비 정확도와 생성 가능성 모두를 개선함.

핵심 아이디어

기존 조건부 생성 모델은 정렬 오류를 학습하지 못하고, 정적 조건 신호만 사용하거나, 수동 조정을 통해 피드백을 처리하는 방식을 따르는 반면, FlowBender는 정렬 오류를 모델의 입력으로 직접 취급하여 정정 정책을 학습한다. 이는 생성 과정에서 피드백을 실시간으로 반영하는 폐루프 구조를 구축한다.

FlowBender는 두 단계로 구성된다: 첫 번째는 unguided look-ahead pass로 깨끗한 신호를 추정하고, 두 번째는 forward operator를 통해 계산된 task-specific deviation을 입력으로 받아 정정된 velocity를 생성하는 refinement pass이다. 이 방식은 기존의 scalar-weighted guidance와 달리 비선형 정책을 학습하여 피드백을 활용한다.

또한, Zero-order variant는 미분 불가능한 조건(예: JPEG 압축)에서도 정렬 오류를 직접 신호로 사용하여 정정을 가능하게 한다. 이는 기존의 gradient-based guidance가 적용되지 않는 환경에서도 유용하다.

기술적 접근법

**FlowBender**: 조건부 생성 모델의 정렬 오류를 입력으로 취하고, 이를 기반으로 정정 정책을 학습하는 폐루프 프레임워크.
**Unsupervised look-ahead pass**: 생성 과정에서 초기 깨끗한 신호를 추정.
**Refinement pass**: forward operator(예: depth predictor)를 통해 계산된 task-specific deviation을 입력으로 받아 정정된 velocity를 생성.
**Zero-order variant**: 비미분 가능한 조건(예: JPEG 압축)에 대해 정렬 오류를 raw measurement로 직접 입력.
**Prior-step shortcut**: 폐루프 정정을 N+1회의 모델 평가로 수행, 계산 비용을 최소화.
**Forward operator**: depth predictor, edge detector, renderer 등 조건과 생성물 간의 관계를 정의하는 함수.

주요 결과

**Image-to-image translation, restoration, 3D mesh texturing**에서 FlowBender는 기존 기법 대비 정확도와 생성 가능성 모두를 개선함.
**FID(Frechét Inception Distance)**가 개선됨, 예: 기존 guidance 기반 방법 대비 FID +15% 개선.
**Zero-order variant**는 JPEG 복원 등 비미분 가능한 조건에서도 효과적임.
**Prior-step shortcut**을 사용하면 N+1회의 모델 평가로 폐루프 정정 가능, 기존 open-loop 방식과 유사한 계산 비용 유지.

의의 및 한계

FlowBender는 조건부 생성 모델이 정렬 오류를 학습하도록 유도함으로써, 기존의 정확도-생성 가능성 간의 trade-off를 극복한다. 이는 생성 모델의 신뢰성과 유용성을 동시에 향상시키는 학술적·실용적 기여를 제공한다. 특히, Zero-order variant는 미분 불가능한 조건을 처리할 수 있어, 다양한 실용적 상황에서 활용 가능하다.

하지만, FlowBender는 훈련 단계에서 추가적인 모델 평가가 필요하여 계산 비용이 증가한다. 또한, 일부 복잡한 조건에서는 CFG(Class-Conditional Guidance)와 병행 사용 시 더 나은 성능을 보이는 것으로 나타나, 정책이 모든 조건을 완전히 학습하지 못할 가능성도 존재한다.

실용적 활용

FlowBender는 이미지-이미지 변환, 이미지 복원, 3D 메시 텍스처링 등 다양한 생성 작업에 적용 가능하다. 특히, JPEG 압축 복원, 제3자 API와의 연동 등 미분 불가능한 조건이 필요한 상황에서 유용하다. 또한, 기존의 ControlNet, LoRA와 같은 모델 어댑터와 호환되어, 기존 생성 모델을 최소한의 수정으로 업그레이드할 수 있다.