reward-modeling structure-faithful scientific-diagrams multi-dimensional-dpo sciforma sci-forma-data-700k sci-forma-bench-2k iterative-editing
Abstract
Structural fidelity is essential to scientific methodology diagrams. To communicate research logic, these diagrams must faithfully render components, directional relations, and textual annotations. Since a single error, such as a reversed arrow or an unreadable equation, can invalidate the entire figure, structural fidelity is inherently conjunctive: correctness on one axis cannot compensate for failure on another. Current open-source models fail to satisfy this criterion. Supervised fine-tuning (SFT) learns plausible layouts but cannot reliably ensure structural correctness, while scalar reward-based post-training obscures which structural dimension has failed. To address this, we introduce SciForma, a framework for the structure faithful generation of scientific methodology diagrams. Specifically, SciForma decomposes diagram quality into three structural axes: Component, Arrow, and Text, guided by a structural inventory. Built on this foundation, we curate SciFormaData-700K for structured training and SciFormaBench-2K for logic-verified evaluation. To close the gap left by SFT, we develop Multi-Dimensional Conjunctive Preference Optimization (M-DPO), which enforces simultaneous correctness across all axes and adaptively routes gradients to the most deficient dimension in post-training. The same structural inventory also enables iterative editing at inference time to correct residual errors. This combination allows SciForma-9B to exceed all open-source baselines and GPT-Image-1.5 on both SciFormaBench-2K and AIBench, bringing open scientific diagram generation close to proprietary-level structural fidelity. Our code and data will be available at: https://github.com/microsoft/SciForma.
한국어 요약
한 줄 요약
SciForma는 과학적 방법론 다이어그램의 구조적 정확도를 보장하기 위해 Component, Arrow, Text 3축을 분해하고 M-DPO 알고리즘을 도입한 새로운 프레임워크이다.
핵심 기여도
- SciFormaData-700K와 SciFormaBench-2K 데이터셋을 구축하여 구조화된 학습과 검증 기반을 마련.
- Multi-Dimensional Conjunctive Preference Optimization (M-DPO)를 제안하여 3축(Components, Arrows, Text)의 동시 정확도를 강제.
- SciForma-9B 모델이 SciFormaBench-2K에서 GPT-Image-1.5를 69.51 점으로 초과.
- SciForma-9B는 AIBench에서 70.29 점으로 인간 작성 다이어그램을 초과.
핵심 아이디어
기존 모델은 단일 스칼라 보상으로 다이어그램의 구조적 정확도를 평가하여 어떤 축에서 오류가 발생했는지 파악하지 못했다. SciForma는 다이어그램 품질을 Component, Arrow, Text 3개의 독립적으로 검증 가능한 축으로 분해하고, 이를 기반으로 구조 인벤토리(structural inventory)를 도입하여 각 축별 오류를 명확히 추적할 수 있도록 했다. 이는 시각적 유사성보다 구조적 정확도를 우선시하는 과학적 다이어그램 생성의 핵심 요구사항을 반영한 설계이다.
기술적 접근법
- **SciFormaData-700K**: 토폴로지-캡션 데이터셋으로, 구조화된 생성 및 편집을 위한 학습 자료.
- **SciFormaBench-2K**: 논리 검증 기반 평가 벤치마크.
- **M-DPO**: 전역 승자와 축별 패자 간 비교를 통해, 각 축의 정확도를 동시에 강화하는 멀티웨이 Bradley–Terry 목적함수를 사용.
- **SciForma-9B**: SciForma-Base를 기반으로 포스트 트레이닝한 모델.
- **Iterative Refinement**: 추론 시점에서 구조 인벤토리를 활용해 잔류 오류를 수정하는 반복적 편집 기법.
주요 결과
- SciForma-9B는 SciFormaBench-2K에서 69.51 점을 달성하여 GPT-Image-1.5 (68.96)를 0.55 점 초과.
- Arrow 축에서 +1.82, Text 축에서 +3.16 개선.
- Iterative Refinement를 적용한 SciForma-9B + edit는 72.40 점 (전체 +2.89).
- AIBench에서 70.29 점으로, 인간 작성 다이어그램 (70.09)을 0.20 점, GPT-Image-1.5를 8.67 점 초과.
- Topology 축에서 +6.19 개선.
의의 및 한계
SciForma는 과학적 다이어그램 생성에서 구조적 정확도를 독립적으로 평가하고 개선할 수 있는 체계적인 프레임워크를 제시한다. 특히 M-DPO는 기존 스칼라 보상 방식의 한계를 극복하고, 각 축별 오류를 명확히 식별하여 개선할 수 있도록 한다. 그러나 1024px 해상도는 밀집된 다이어그램에서 세부 표현에 한계가 있으며, 평가-편집 파이프라인은 프로퍼티 VLM에 의존한다는 점이 한계이다. 또한, 에이전트 환경에서는 구조 인벤토리가 자동 생성되어 사용자 의도와의 차이가 발생할 수 있다.
실용적 활용
SciForma는 과학 논문 작성, 연구 프로젝트 시각화, 교육용 자료 제작 등에서 정확한 다이어그램 생성을 지원할 수 있다. 특히, PaperBanana와 같은 에이전트 파이프라인에 통합되어 연구 아이디어를 시각화하는 데 활용 가능하다.