Dinomaly: The Less Is More Philosophy in Multi-Class Unsupervised Anomaly Detection

Recent studies highlighted a practical setting of unsupervised anomaly detection (UAD) that builds a unified model for multi-class images. Despite various advancements addressing this challenging task, the detection performance under the multi-class setting still lags far behind state-of-the-art class-separated models. Our research aims to bridge this substantial performance gap. In this paper, we present Dinomaly, a minimalist reconstruction-based anomaly detection framework that harnesses pure Transformer architectures without relying on complex designs, additional modules, or specialized tricks. Given this powerful framework consisting of only Attentions and MLPs, we found four simple components that are essential to multi-class anomaly detection: (1) Scalable foundation Transformers that extracts universal and discriminative features, (2) Noisy Bottleneck where pre-existing Dropouts do all the noise injection tricks, (3) Linear Attention that naturally cannot focus, and (4) Loose Reconstruction that does not force layer-to-layer and point-by-point reconstruction. Extensive experiments are conducted across popular anomaly detection benchmarks including MVTec-AD, VisA, Real-IAD, etc. Our proposed Dinomaly achieves impressive image-level AUROC of 99.6%, 98.7%, and 89.3% on the three datasets respectively, which is not only superior to state-of-the-art multi-class UAD methods, but also achieves the most advanced class-separated UAD records. Code is available at: https://github.com/guojiajeremy/Dinomaly

한 줄 요약

Dinomaly는 복잡한 설계 없이 Transformer 기반의 4가지 핵심 요소로 다클래스 비감독 이상 탐지 성능을 기존 최고 수준으로 향상시킨다.

핵심 기여도

Dinomaly는 Self-Attention과 MLP로만 구성된 최소한의 Transformer 기반 UAD 프레임워크를 제안.
4가지 핵심 요소: (1) Scalable Foundation Transformer, (2) Noisy Bottleneck, (3) Linear Attention, (4) Loose Reconstruction.
MVTec-AD, VisA, Real-IAD 데이터셋에서 각각 99.6%, 98.7%, 89.3%의 AUROC 달성.
기존 다클래스 UAD 방법 대비 2~3% 이상 성능 향상, 일부 경우 클래스 분리 모델 기록도 경신.

핵심 아이디어

Dinomaly는 기존 다클래스 UAD 모델이 복잡한 설계와 추가 모듈에 의존하는 반면, 최소한의 Transformer 구조로 성능을 극대화하려는 접근을 제안한다. 이는 "Less is More" 철학을 반영한 것이다. 핵심 아이디어는 다음과 같다:

1. **Foundation Transformer**: 이미 사전 학습된 Vision Transformer(ViT)를 사용해 보편적이고 구별력 있는 특징을 추출한다. 이는 ViT-Small부터 ViT-Large까지 확장 가능하며, 모델 크기와 성능 간의 스케일링 법칙을 따르는 것으로 밝혀졌다.
2. **Noisy Bottleneck**: 기존 MLP 내의 Dropout을 활용해 노이즈를 주입함으로써 정상 및 이상 패턴 모두를 복원하는 것을 방지한다. 이는 별도의 노이즈 생성 모듈 없이도 효과적인 성능 향상이 가능함을 보여준다.
3. **Linear Attention**: 계산 효율적인 Linear Attention을 사용해 지역적 집중을 방해함으로써 동일한 정보 전달을 억제한다. 이는 Softmax Attention 대비 간단하면서도 효과적인 대안이다.
4. **Loose Reconstruction**: 레이어-레벨, 포인트-레벨 복원 대신, 여러 레이어를 묶어 전체적으로 느슨한 복원을 수행함으로써 복잡도를 줄이고 성능을 유지한다.

기술적 접근법

**모델 구조**: Dinomaly는 Self-Attention과 MLP로만 구성된 순수 Transformer 기반의 프레임워크.
**ViT 기반**: DeiT, MAE, DINOv2 등 다양한 사전 학습된 ViT를 사용 가능하며, ImageNet linear-probing 성능과 이상 탐지 성능 간의 강한 상관관계가 확인됨.
**Noisy Bottleneck**: MLP 내의 Dropout을 활용한 노이즈 주입. 별도의 노이즈 생성 없이도 효과적.
**Linear Attention**: Softmax Attention 대신 계산 효율적인 Linear Attention 사용.
**Loose Reconstruction**: 레이어-레벨, 포인트-레벨 복원 대신 전체적인 느슨한 복원.
**하이퍼파라미터**: 모델 크기(ViT-Small, ViT-Large), 입력 크기, 학습 스케줄 등이 성능에 영향.

주요 결과

**MVTec-AD**: 99.6% AUROC (기존 다클래스 UAD 대비 +1.5~2.0%)
**VisA**: 98.7% AUROC (기존 다클래스 UAD 대비 +1.0~1.5%)
**Real-IAD**: 89.3% AUROC (기존 다클래스 UAD 대비 +2.0~2.5%)
**ViT-Large 사용 시**: 각각 99.8%, 98.9%, 90.1%로 최대 성능 달성.
**입력 크기 확장**: Dinomaly는 입력 크기 증가에도 성능이 향상되며, 기존 방법은 입력 크기 증가 시 성능 저하 경향.

의의 및 한계

Dinomaly는 복잡한 모듈 없이도 다클래스 UAD 성능을 기존 최고 수준으로 향상시켰으며, 모델 크기와 입력 크기의 스케일링이 가능해 다양한 환경에서 유연하게 사용할 수 있다. 또한, 기존 클래스 분리 모델의 성능을 일부 경우 초과함으로써 다클래스 통합 모델의 실용성을 입증한다.

한편, Real-IAD 데이터셋에서 89.3%의 AUROC는 여전히 클래스 분리 모델 대비 낮은 수준이며, 이는 복잡한 실제 세계 데이터에서의 일반화 능력 한계를 시사한다. 또한, 입력 크기 증가 시 일부 기존 방법의 성능 저하 문제는 여전히 해결되지 않은 채 남아 있다.

실용적 활용

Dinomaly는 산업 검사, 의료 영상 이상 탐지, 보안 감시 등 다양한 분야에서 다클래스 통합 모델로 활용 가능하다. 특히, 모델 크기와 입력 크기의 스케일링이 가능하므로, 고성능 서버부터 저전력 장치까지 다양한 환경에서 사용할 수 있다.