ShutterMuse: Capture-Time Photography Guidance with MLLMs

Jiayu Li, Yixiao Fang, Tianyu Hu, Wei Cheng, Ping Huang, Zheheng Fan, Gang Yu, Xingjun Ma

arXiv:2606.25763 · 2026-06-26 공개 · arXiv · PDF

mllm capture-time-guidance photography-benchmarks aesthetic-cropping pose-recommendation captureguide-bench captureguide-dataset reinforcement-finetuning

Abstract

Real-world photography requires capture-time guidance for both camera framing and subject pose. Yet existing aesthetic cropping benchmarks mainly evaluate post-hoc crop prediction and overlook subject-side recommendations, leaving the capture-time guidance capabilities of multimodal large language models (MLLMs) underexplored. To address this gap, we introduce CaptureGuide-Bench, a benchmark with two complementary tasks: photographer-side composition decision and refinement, and subject-side scene-conditioned pose recommendation. Our evaluation reveals limitations: general-purpose MLLMs can make composition decisions but lack precise refinement localization, while specialized aesthetic cropping models localize crops effectively but are limited to refinement; neither provides actionable pose guidance. To support model development, we further construct CaptureGuide-Dataset, comprising 130K samples with textual rationales and structured visual annotations, and develop ShutterMuse, a unified MLLM trained with supervised and reinforcement fine-tuning. Experiments on CaptureGuide-Bench show that ShutterMuse achieves the best overall photographer-side performance among evaluated baselines and competitive subject-side pose recommendation with substantially lower inference cost, demonstrating the potential of MLLMs as interactive assistants for photography during image capture.

한국어 요약

한 줄 요약

ShutterMuse는 촬영 시 사진 품질 향상을 위한 MLLM 기반 포토그래피 가이드 모델이다.

핵심 기여도

핵심 아이디어

기존 연구는 사진 품질 향상을 위한 촬영 후 자르기 예측에 집중했으나, 촬영 시 실시간 조정과 피사체 자세 추천을 고려하지 않았다. 이를 해결하기 위해 촬영자 측 구성 결정 및 정제와, 피사체 측 장면 조건에 따른 자세 추천이라는 두 가지 작업을 포함한 CaptureGuide-Bench를 제안한다. 일반적인 MLLM은 구성 결정은 가능하지만 정제 위치를 정확히 파악하지 못하고, 전용 자르기 모델은 정제는 잘하지만 자세 추천은 제공하지 않는다. ShutterMuse는 이러한 한계를 극복하기 위해 텍스트-비주얼 일관성을 강화하고, 강화 학습을 통해 실시간 상호작용 능력을 향상시킨다.

기술적 접근법

주요 결과

의의 및 한계

ShutterMuse는 촬영 중 실시간 조정과 피사체 자세 추천을 가능하게 하여, MLLM을 포토그래피 분야의 대화형 보조 도구로 활용할 수 있음을 보여준다. 그러나 모델이 특정 장면에서의 자세 추천 정확도는 여전히 낮으며, 다양한 문화적/예술적 맥락에 대한 일반화 능력도 한계가 있다. 또한, 촬영 환경의 실시간 반응 속도 향상이 필요하다는 점도 언급된다.

실용적 활용

ShutterMuse는 스마트폰 카메라 앱, 전문 촬영 보조 시스템, 콘텐츠 크리에이터의 실시간 촬영 조언 도구로 활용 가능하다. 특히, 사용자와의 대화형 상호작용을 통해 실시간 피드백을 제공하는 애플리케이션에 적합하다.