SciForma: Structure-Faithful Generation of Scientific Diagrams

Yuxuan Luo, Peng Zhang, Xinjie Zhang, Xun Guo, Zhouhui Lian, Yan Lu

arXiv:2607.18091 · 2026-07-23 공개 · arXiv · PDF

reward-modeling structure-faithful scientific-diagrams multi-dimensional-dpo sciforma sci-forma-data-700k sci-forma-bench-2k iterative-editing

Abstract

Structural fidelity is essential to scientific methodology diagrams. To communicate research logic, these diagrams must faithfully render components, directional relations, and textual annotations. Since a single error, such as a reversed arrow or an unreadable equation, can invalidate the entire figure, structural fidelity is inherently conjunctive: correctness on one axis cannot compensate for failure on another. Current open-source models fail to satisfy this criterion. Supervised fine-tuning (SFT) learns plausible layouts but cannot reliably ensure structural correctness, while scalar reward-based post-training obscures which structural dimension has failed. To address this, we introduce SciForma, a framework for the structure faithful generation of scientific methodology diagrams. Specifically, SciForma decomposes diagram quality into three structural axes: Component, Arrow, and Text, guided by a structural inventory. Built on this foundation, we curate SciFormaData-700K for structured training and SciFormaBench-2K for logic-verified evaluation. To close the gap left by SFT, we develop Multi-Dimensional Conjunctive Preference Optimization (M-DPO), which enforces simultaneous correctness across all axes and adaptively routes gradients to the most deficient dimension in post-training. The same structural inventory also enables iterative editing at inference time to correct residual errors. This combination allows SciForma-9B to exceed all open-source baselines and GPT-Image-1.5 on both SciFormaBench-2K and AIBench, bringing open scientific diagram generation close to proprietary-level structural fidelity. Our code and data will be available at: https://github.com/microsoft/SciForma.

한국어 요약

한 줄 요약

SciForma는 과학적 방법론 다이어그램의 구조적 정확도를 보장하기 위해 Component, Arrow, Text 3축을 분해하고 M-DPO 알고리즘을 도입한 새로운 프레임워크이다.

핵심 기여도

핵심 아이디어

기존 모델은 단일 스칼라 보상으로 다이어그램의 구조적 정확도를 평가하여 어떤 축에서 오류가 발생했는지 파악하지 못했다. SciForma는 다이어그램 품질을 Component, Arrow, Text 3개의 독립적으로 검증 가능한 축으로 분해하고, 이를 기반으로 구조 인벤토리(structural inventory)를 도입하여 각 축별 오류를 명확히 추적할 수 있도록 했다. 이는 시각적 유사성보다 구조적 정확도를 우선시하는 과학적 다이어그램 생성의 핵심 요구사항을 반영한 설계이다.

기술적 접근법

주요 결과

의의 및 한계

SciForma는 과학적 다이어그램 생성에서 구조적 정확도를 독립적으로 평가하고 개선할 수 있는 체계적인 프레임워크를 제시한다. 특히 M-DPO는 기존 스칼라 보상 방식의 한계를 극복하고, 각 축별 오류를 명확히 식별하여 개선할 수 있도록 한다. 그러나 1024px 해상도는 밀집된 다이어그램에서 세부 표현에 한계가 있으며, 평가-편집 파이프라인은 프로퍼티 VLM에 의존한다는 점이 한계이다. 또한, 에이전트 환경에서는 구조 인벤토리가 자동 생성되어 사용자 의도와의 차이가 발생할 수 있다.

실용적 활용

SciForma는 과학 논문 작성, 연구 프로젝트 시각화, 교육용 자료 제작 등에서 정확한 다이어그램 생성을 지원할 수 있다. 특히, PaperBanana와 같은 에이전트 파이프라인에 통합되어 연구 아이디어를 시각화하는 데 활용 가능하다.