PolicyShiftGuard: Benchmarking and Improving Policy-Adaptive Image Guardrails

Image guardrails are typically trained and evaluated under a fixed safety policy, implicitly treating safety as an intrinsic property of an image. Real deployments are different: the same image may be allowed in one product, restricted in another, and newly disallowed when a policy boundary changes. We study policy-adaptive image guardrailing, where a model must decide whether an image violates the currently supplied policy and generalize to held-out policy definitions. We introduce PolicyShiftBench, a comprehensive benchmark with 2,000 policy-discriminative instances over 265 images, where each image is paired with 7.55 policy-conditioned prompts on average to test whether models adapt to the active policy rather than relying on image-level safety priors. We then propose PolicyShiftGuard, a compact policy-conditioned guardrail trained with a two-stage training recipe that combines Randomized Policy SFT (RP-SFT) with Boundary-Pair Policy Adaptation (BP-Adapt). BP-Adapt trains matched prompts for the same image and risk category using standard label supervision and a pairwise comparison loss that separates blocking policies from passing policies. Experiments show that existing VLMs and specialized guardrails remain brittle under policy shifts, while PolicyShiftGuard substantially improves policy-sensitive performance. The 7B model achieves SOTA performance of 76.9 Avg. F1 and 72.1 Avg. PSS on PolicyShiftBench, transfers well to UnSafeBench and SafeEditBench, and improves the latency-performance trade-off with a concise output format. Ablations confirm that matched pass/block boundary pairs are essential for stable policy adaptation.

한 줄 요약

PolicyShiftGuard는 정책 변화에 적응하는 이미지 가드레일을 평가하고 향상시키는 데 기여하는 새로운 모델과 벤치마크를 제시한다.

핵심 기여도

PolicyShiftBench: 265개 이미지, 2,000개 인스턴스, 평균 7.55개 정책 조건을 갖는 새로운 정책-적응형 이미지 가드레일 평가 벤치마크를 제시.
PolicyShiftGuard: RP-SFT와 BP-Adapt를 결합한 2단계 훈련 레시피를 사용한 정책 조건 가드레일 모델.
7B 모델이 PolicyShiftBench에서 76.9 Avg. F1, 72.1 Avg. PSS를 달성하며, 기존 모델 대비 정책 민감도를 크게 향상.
UnSafeBench와 SafeEditBench로의 전이 성능도 확인.

핵심 아이디어

기존 이미지 가드레일은 안전성을 이미지 고유 속성으로 간주하지만, 실제 운영 환경에서는 동일 이미지가 다른 정책 하에서 허용되거나 제한될 수 있다. 따라서 모델은 정책 변화에 따라 판단을 유연하게 조정할 수 있어야 한다. 이에 PolicyShiftGuard는 정책 조건을 명시적으로 반영하는 방식으로 훈련되며, 정책 변화에 대한 민감도를 높인다. 핵심 아이디어는 정책에 따른 '허용/제한' 경계를 학습하는 데 있다. 이는 BP-Adapt를 통해 동일 이미지에 대해 서로 다른 정책 조건에서의 허용/제한 쌍을 비교 학습함으로써 달성된다.

기술적 접근법

**PolicyShiftBench**: 7개 위험 범주, 5개 중재 시나리오, 28개 정책 변형, 2,000개 인스턴스로 구성. 평균 7.55개의 정책 조건이 각 이미지에 연결됨.
**PolicyShiftGuard**:
**RP-SFT (Randomized Policy SFT)**: 정책 번들에 따라 훈련하며, 정책 순서나 표면 식별자에 의존하지 않도록 구조화된 결정을 유도.
**BP-Adapt (Boundary-Pair Policy Adaptation)**: 동일 이미지와 위험 범주에 대해 서로 다른 정책 조건에서 허용/제한 쌍을 훈련.
**PSS (Policy Shift Score)**: 동일 이미지에 대해 정책 변화에 따른 판단 정확도를 측정하는 쌍점 평가 지표.

주요 결과

PolicyShiftBench에서 PolicyShiftGuard 7B 모델이 76.9 Avg. F1, 72.1 Avg. PSS를 달성.
기존 VLM 및 전용 가드레일 모델 대비 PSS가 크게 개선됨.
UnSafeBench와 SafeEditBench로의 전이 성능도 우수.
추론 속도 개선으로 실시간 처리 성능 향상.

의의 및 한계

PolicyShiftGuard는 정책 변화에 민감한 이미지 가드레일 모델을 평가하고 훈련하는 새로운 기준과 방법론을 제시한다. 특히 BP-Adapt를 통해 정책 경계를 명시적으로 학습함으로써 기존 모델의 정책 무시 문제를 해결한다. 그러나 PolicyShiftBench는 특정 위험 범주와 시나리오에만 제한되며, 더 다양한 정책 변화 상황을 반영하는 확장이 필요하다. 또한, 모델 크기와 성능 간의 균형을 유지하는 것도 중요한 과제로 남는다.

실용적 활용

PolicyShiftGuard는 정책이 자주 변경되는 콘텐츠 관리 시스템, 광고 플랫폼, SNS 등에서 유용하게 활용될 수 있다. 특히, 정책에 따라 동일 이미지의 허용 여부가 달라지는 상황에서 빠르고 정확한 판단을 요구하는 실시간 가드레일 시스템에 적합하다.