Don't Look at the Numbers: Visual Anchoring Bias and Layer-wise Representation in VLMs

M. Shalankin

arXiv:2605.11218 · 2026-05-13 공개 · arXiv · PDF

vlm visual-anchoring-bias layer-wise-representation fusion-analysis architecture-dependent quality-prediction image-anchors representation-dynamics

Abstract

Embedded numeric anchors on images systematically bias Vision-Language Model quality judgments across six VLMs from five architectural families (ANOVA eta^2 = 0.18-0.77, all p < 0.001). Anchor effects are 2.5x larger than severe image quality degradation, confirming bias is not reducible to visual changes. Layer-wise probing reveals consistent dissociation: layers where anchor classification saturates (L12-L34) are suboptimal for quality prediction, with optimal layers deeper (R^2 = 0.69-0.91). Fusion analysis identifies architecture-dependent integration -- instant fusion at L1-L2 in two models versus partial or no fusion in three others. These results establish a causal account of visual anchoring bias, linking behavioral susceptibility to representation dynamics.

한국어 요약

📋 한 줄 요약

**[멀티모달 / 모델 편향]** 이미지에 삽입된 숫자 앵커가 6개 VLM의 품질 판단을 체계적으로 편향시키며, 이 편향은 시각적 변화로 환원되지 않는 표현 동역학과 인과적으로 연결됨을 규명.

🎯 핵심 기여도

💡 핵심 아이디어

VLM의 "시각적 앵커링 편향"은 단순 입력 픽셀 변화의 결과가 아니라 텍스트·시각 정보가 레이어별로 통합되는 동역학의 산물이다. 즉 행동적 취약성과 내부 표현 동학을 인과적으로 연결할 수 있다.

🔬 기술적 접근법

📊 주요 결과

💭 의의 및 한계

**의의**: VLM 평가 신뢰성을 위협하는 표면적 편향이 표현 학습 동학에 뿌리를 둔다는 인과적 설명을 제공해 후속 mitigation 연구의 토대 마련. **한계**: 분석이 정적 이미지·숫자 앵커에 집중되며 다른 유형의 텍스트 오버레이·동영상 시나리오 일반화는 추가 연구 필요.

🚀 실용적 활용