Mitigating Hallucinations in Large Vision-Language Models with Instruction Contrastive Decoding

Large Vision-Language Models (LVLMs) are increasingly adept at generating contextually detailed and coherent responses from visual inputs. However, their application in multimodal decision-making and open-ended generation is hindered by a notable rate of hallucinations, where generated text inaccurately represents the visual contents. To address this issue, this paper introduces the Instruction Contrastive Decoding (ICD) method, a novel approach designed to reduce hallucinations during LVLM inference. Our method is inspired by our observation that what we call disturbance instructions significantly exacerbate hallucinations in multimodal fusion modules. ICD contrasts distributions from standard and instruction disturbance, thereby increasing alignment uncertainty and effectively subtracting hallucinated concepts from the original distribution. Through comprehensive experiments on discriminative benchmarks (POPE and MME) and a generative benchmark (LLaVa-Bench), we demonstrate that ICD significantly mitigates both object-level and attribute-level hallucinations. Moreover, our method not only addresses hallucinations but also significantly enhances the general perception and recognition capabilities of LVLMs.

한 줄 요약

ICD는 LVLM의 환각을 줄이기 위해 표준 및 교란 지시문의 분포를 대비하는 새로운 추론 방법이다.

핵심 기여도

ICD는 교란 지시문을 통해 LVLM의 multimodal alignment 모듈에서 환각을 감소시킨다.
POPE, MME, LLaVa-Bench에서 object-level 및 attribute-level 환각을 각각 10.5%, 84.2% 개선.
기존 VCD 대비 3.9% 성능 향상.
학습 없이 LVLM 구조와 무관하게 적용 가능.

핵심 아이디어

ICD는 LVLM의 multimodal alignment 단계에서 발생하는 환각을 줄이기 위해, 표준 지시문과 교란 지시문(ROLE prefix 추가)의 분포 차이를 활용한다. 이는 환각 개념을 원래 분포에서 효과적으로 제거함으로써 정확도를 높이는 전략이다. 기존 연구는 이미지 변형(VCD)이나 추가 학습을 요구했지만, ICD는 추론 단계에서만 작동하며, 별도의 학습이나 모듈 추가 없이도 효과적이다. 핵심 통찰은 multimodal alignment에서의 불확실성 증가가 환각을 억제할 수 있다는 점이다.

기술적 접근법

**ICD 메커니즘**: 표준 지시문과 교란 지시문(ROLE prefix 추가)의 분포를 대비하여 환각을 억제.
**적용 모델**: miniGPT4, InstructBLIP.
**비교 대상**: VCD (Visual Contrastive Decoding).
**추론 단계만 활용**, 학습 없이 multimodal alignment 모듈 내에서 분포 차이를 계산.
**하이퍼파라미터 민감도**: VCD 대비 낮음.
**데이터셋**: POPE (MSCOCO, A-OKVQA, GQA), MME, LLaVa-Bench.

주요 결과

**POPE**: ICD는 miniGPT4 대비 정확도 +7.0%, 정밀도 +8.5%, 재현율 +8.7%, F1 +7.9%.
**MME**: object-level +84.2%, attribute-level +62.5% 개선.
**LLaVa-Bench**: open-ended generation 환각 감소.
**VCD 대비**: 전체 성능 +3.9% 향상.
**MME 전체 14개 task**: ICD는 기반 LVLM 및 VCD를 모두 상회.

의의 및 한계

ICD는 LVLM의 환각 문제를 학습 없이 추론 단계에서 해결함으로써, 기존 접근법 대비 실용성과 효율성을 높였다. 특히, multimodal alignment 모듈에서의 분포 차이를 활용한 방식은 기존의 이미지 변형(VCD)이나 추가 학습을 요구하는 방법과 구별된다. 그러나 ICD는 일부 시각적 구분이 필요한 task(예: landmark, OCR, 텍스트 번역)에서는 VCD보다 성능이 낮은 것으로 나타나, 이러한 task에서는 시각적 분별력이 중요하다는 점이 드러난다. 이는 ICD가 multimodal alignment에 초점을 맞춘 반면, VCD는 시각적 불확실성을 강조하기 때문으로 분석된다.

실용적 활용

ICD는 이미지 기반 질의 응답, 자동 캡션 생성, 멀티모달 추론 등에서 LVLM의 신뢰성을 높이는 데 활용 가능하다. 특히, 교육, 의료, 자동화 시스템 등에서 정확한 시각 정보 해석이 필요한 분야에서 실용적 가치가 높다.