FakeShield: Explainable Image Forgery Detection and Localization via Multi-modal Large Language Models

The rapid development of generative AI is a double-edged sword, which not only facilitates content creation but also makes image manipulation easier and more difficult to detect. Although current image forgery detection and localization (IFDL) methods are generally effective, they tend to face two challenges: \textbf{1)} black-box nature with unknown detection principle, \textbf{2)} limited generalization across diverse tampering methods (e.g., Photoshop, DeepFake, AIGC-Editing). To address these issues, we propose the explainable IFDL task and design FakeShield, a multi-modal framework capable of evaluating image authenticity, generating tampered region masks, and providing a judgment basis based on pixel-level and image-level tampering clues. Additionally, we leverage GPT-4o to enhance existing IFDL datasets, creating the Multi-Modal Tamper Description dataSet (MMTD-Set) for training FakeShield's tampering analysis capabilities. Meanwhile, we incorporate a Domain Tag-guided Explainable Forgery Detection Module (DTE-FDM) and a Multi-modal Forgery Localization Module (MFLM) to address various types of tamper detection interpretation and achieve forgery localization guided by detailed textual descriptions. Extensive experiments demonstrate that FakeShield effectively detects and localizes various tampering techniques, offering an explainable and superior solution compared to previous IFDL methods. The code is available at https://github.com/zhipeixu/FakeShield.

한 줄 요약

FakeShield는 GPT-4o를 활용한 MMTD-Set 데이터셋과 DTE-FDM, MFLM 모듈을 결합하여 설명 가능한 이미지 위조 탐지 및 지역화를 수행하는 다중모달 프레임워크이다.

핵심 기여도

**FakeShield**: 설명 가능한 이미지 위조 탐지 및 지역화(IFDL)를 위한 다중모달 프레임워크를 제안.
**MMTD-Set**: GPT-4o를 활용해 기존 IFDL 데이터셋에 텍스트 정보를 추가한 새로운 데이터셋을 구축.
**DTE-FDM**: 도메인 태그를 기반으로 다양한 위조 유형을 통합 모델에서 탐지.
**MFLM**: 시각-언어 특징 정렬을 통해 정확한 위조 지역화 수행.

핵심 아이디어

기존 IFDL 방법은 대부분 블랙박스 구조로, 탐지 원리가 불명확하며, 다양한 위조 기법에 대한 일반화 능력이 제한적이었다. 이를 해결하기 위해, FakeShield는 이미지의 진위를 평가하고, 위조 영역 마스크를 생성하며, 픽셀 수준 및 이미지 수준의 위조 힌트를 기반으로 판단 근거를 제공하는 설명 가능한 IFDL 작업을 제안한다.

이를 위해, GPT-4o를 활용해 기존 데이터셋에 텍스트 설명을 추가한 MMTD-Set을 구축하여 모델의 분석 능력을 향상시켰다. 또한, DTE-FDM은 다양한 위조 유형을 통합적으로 탐지할 수 있도록 도메인 태그를 기반으로 설계되었으며, MFLM은 시각-언어 특징 정렬을 통해 정확한 지역화를 수행한다.

기술적 접근법

**MMTD-Set**: GPT-4o를 사용해 기존 IFDL 데이터셋에 "이미지-마스크-설명" 트리플을 생성.
**DTE-FDM**: 도메인 태그를 기반으로 다양한 위조 유형을 탐지.
**MFLM**: 시각-언어 특징 정렬을 통해 위조 지역화 수행.
**GPT-4o 활용**: 텍스트 기반 설명 생성 및 데이터셋 풍부화.
**하이퍼파라미터**: 25 에포크 동안 학습.

주요 결과

**IMD2020 데이터셋**: DTG 모듈이 없는 경우, 정확도(ACC)가 0.12, F1 점수가 0.11 감소.
**CASIA1+ 데이터셋**: LLM 제거 시 지역화 성능이 일관되게 저하되며, 수렴 속도가 빨라짐.
**다양한 위조 유형**: Copy-move, Splicing, Removal, DeepFake, AIGC 기반 편집 등 다양한 위조 기법에서 기존 방법 대비 우수한 탐지 및 지역화 성능.

의의 및 한계

FakeShield는 기존 IFDL 방법의 블랙박스 문제와 일반화 한계를 해결하며, 설명 가능한 탐지와 정확한 지역화를 동시에 수행할 수 있는 새로운 접근법을 제시한다. 특히, GPT-4o를 활용한 MMTD-Set은 데이터셋의 풍부화를 통해 모델의 분석 능력을 향상시키는 데 기여한다.

그러나, GPT-4o에 의존적인 데이터셋 생성 과정은 추가적인 비용과 시간이 소요될 수 있으며, 특정 도메인에서의 성능 저하 가능성도 존재한다. 또한, 모델의 복잡성은 추론 속도에 영향을 줄 수 있다.

실용적 활용

FakeShield는 소셜 미디어의 가짜 콘텐츠 필터링, 뉴스 검증, 법적 증거 수집 등 다양한 실무 상황에서 활용 가능하다. 특히, 법적 분쟁이나 공공 안전 분야에서 신뢰성 있는 이미지 진위 판단을 지원할 수 있다.