SLIP-RS: Structured-Attribute Language-Image Pre-Training for Remote Sensing Object Detection

Existing language-image pre-training for remote sensing object detection is constrained by Monolithic Label Learning, which relies on exhaustively enumerating open-set categories via black-box data to acquire fine-grained representations, creating a dependency incompatible with the domain's inherent data scarcity. To transcend this bottleneck, we propose SLIP-RS, establishing a Structured-Attribute Decoupling Paradigm that maps the open-ended category space into a finite, physically meaningful attribute space, unlocking fine-grained discriminability via explicit structural logic. This paradigm is realized via two technical pillars: (1) Structured-Attribute Contrastive Learning, which enforces the learning of decoupled intrinsic visual logic via combinatorial attribute augmentation; and (2) Conformal Attribute Reliability Engine, which leverages conformal prediction theory to rigorously distill high-fidelity supervision from noisy sources, yielding RS-Attribute-15M, the largest dataset with over 15 million attribute annotations. Extensive experiments demonstrate that SLIP-RS establishes unprecedented performance in fine-grained detection and cross-domain generalization, validating structured attributes as a vital foundation for remote sensing. Code: https://github.com/facias914/SLIP-RS.

📋 한 줄 요약

**[원격탐사 / Vision-Language Pretraining]** SLIP-RS가 monolithic label 의존을 깨고 structured-attribute decoupling으로 카테고리 공간을 attribute 공간에 매핑, conformal reliability engine으로 15M attribute 어노테이션 RS-Attribute-15M 구축·fine-grained·cross-domain SOTA.

🎯 핵심 기여도

원격탐사 object detection을 위한 language-image pretraining이 Monolithic Label Learning에 제약 — black-box data로 open-set category를 exhaustive enumeration해 fine-grained representation 획득하는 의존이 원격탐사의 inherent data scarcity와 incompatible함을 진단.
이 bottleneck 극복을 위해 SLIP-RS 제안 — Structured-Attribute Decoupling Paradigm 확립, open-ended category space를 finite·physically meaningful attribute space로 매핑해 explicit structural logic으로 fine-grained discriminability 확보.
두 기술 기둥으로 실현 — (1) Structured-Attribute Contrastive Learning은 combinatorial attribute augmentation으로 decoupled intrinsic visual logic 학습 강제, (2) Conformal Attribute Reliability Engine은 conformal prediction theory를 leverage해 noisy source에서 high-fidelity supervision rigorous distill, 15M+ attribute annotation의 RS-Attribute-15M으로 최대 규모 데이터셋 산출.
광범위 실험으로 SLIP-RS가 fine-grained detection·cross-domain generalization에서 unprecedented 성능 확립, structured attribute가 원격탐사의 vital foundation임을 입증.

💡 핵심 아이디어

원격탐사처럼 데이터가 부족한 도메인에서 open-set category를 enumerate하는 monolithic approach 대신, 카테고리를 finite·physically meaningful attribute space로 decouple하면 explicit structural logic을 통해 fine-grained 변별을 얻을 수 있으며, conformal prediction으로 noisy 어노테이션 신뢰성을 보장할 수 있다.

🔬 기술적 접근법

**방법론**: SLIP-RS — Structured-Attribute Decoupling Paradigm + 2 기둥.
**핵심 기법**: (1) Open-ended category space → finite physically meaningful attribute space 매핑, (2) Structured-Attribute Contrastive Learning — combinatorial attribute augmentation으로 decoupled visual logic 학습, (3) Conformal Attribute Reliability Engine — conformal prediction theory로 noisy source에서 high-fidelity supervision distill, (4) RS-Attribute-15M(15M+ attribute annotation)의 대규모 데이터셋 구축, (5) Fine-grained detection·cross-domain generalization 평가.

📊 주요 결과

15M+ attribute annotation으로 최대 규모 원격탐사 attribute 데이터셋 RS-Attribute-15M 공개.
Fine-grained detection에서 unprecedented 성능.
Cross-domain generalization에서 SOTA.
Code: github.com/facias914/SLIP-RS.

💭 의의 및 한계

**의의**: 원격탐사 vision-language pretraining의 패러다임 전환(category→attribute), conformal prediction의 데이터 큐레이션 적용 모범, 15M annotation 공개로 커뮤니티 자산. **한계**: Attribute 정의의 도메인 전문 지식 의존, structured attribute가 일반 자연 이미지 일반화는 별도, conformal reliability engine의 hyperparameter 의존.

🚀 실용적 활용

위성·항공 영상 fine-grained 객체 탐지.
군사·환경 모니터링의 cross-domain detection.
Attribute-based vision-language pretraining 일반 디자인.