Discrete Diffusion Language Models for Interactive Radiology Report Drafting

Diffusion language models, which generate text by denoising a token canvas bidirectionally instead of emitting tokens left to right, have become competitive with autoregressive (AR) generation. Medical foundation models, however, remain almost entirely autoregressive. We adapt a mixture-of-experts diffusion language model, DiffusionGemma-26B, and benchmark it against its same-size AR sibling Gemma-4-26B under an identical LoRA recipe on medical visual question answering datasets, scored by a verbosity-robust LLM judge. Diffusion matches or exceeds AR on all of them, and the finetuned model (3.8B active) is competitive with frontier vision-language models; its decoding is also 3.5-4.4x faster. Beyond this parity, the diffusion model offers a drafting capability AR lacks: any-order infill. Because the canvas is denoised bidirectionally, a radiologist can fix report fragments and have the model fill the text between them, an operation inherent to diffusion but not to autoregression, which is subpar at it. This suits real reports, which are often terse or inconsistent across clinicians and institutions.

한 줄 요약

의료 영상 보고서 작성에서 확산 언어 모델이 자동회귀 모델과 동등하거나 우수한 성능을 보이며, 3.5–4.4배 빠른 추론 속도와 any-order infill 기능을 제공한다.

핵심 기여도

DiffusionGemma-26B가 Gemma-4-26B와 동일한 LoRA 조건에서 의료 VQA 성능을 동등하거나 초과함.
3.8B 파라미터만 활성화된 미세조정 모델이 최첨단 vision-language 모델과 경쟁력 있음.
3.5–4.4배 빠른 추론 속도를 기록.
any-order infill 기능을 통해 보고서의 임의 위치에 고정된 텍스트 사이를 채우는 새로운 작성이 가능함.

핵심 아이디어

기존 의료 기초 모델은 대부분 자동회귀(AR) 방식을 사용하지만, 이 연구는 확산 언어 모델을 도입하여 보고서 작성 과정에서의 유연성을 높였다. 확산 모델은 토큰 캔버스를 양방향으로 디노이징하여 텍스트를 생성하므로, 이미 작성된 텍스트 조각 사이를 채우는 any-order infill이 가능하다. 이는 AR 모델에서 불가능한 기능이다. DiffusionGemma-26B는 이러한 확산 기반 디코더와 멀티모달 인코더를 결합한 모델로, 동일한 크기의 AR 모델인 Gemma-4-26B와 비교 실험을 통해 성능과 속도를 검증했다.

기술적 접근법

모델: DiffusionGemma-26B (확산 언어 모델), Gemma-4-26B (자동회귀 모델)
학습: 동일한 LoRA 레시피, 동일한 데이터셋 (의료 VQA), 동일한 vision tower 사용
평가: verbosity-robust LLM judge를 사용한 의료 VQA 정확도, 추론 속도, any-order infill 성능
미세조정: 3.8B 파라미터만 활성화된 상태에서 학습
any-order infill: 임의 위치의 텍스트 조각을 고정하고 사이 텍스트를 생성하는 샘플링 기법

주요 결과

의료 VQA 성능: DiffusionGemma-26B가 Gemma-4-26B와 동등하거나 우수함
MIMIC-CXR 데이터셋에서 any-order infill 시, DiffusionGemma-26B는 +0.109 token-F1, +0.129 judge 정확도를 달성
추론 속도: 3.5–4.4배 빠름
3.8B 파라미터만 활성화된 모델이 최첨단 vision-language 모델과 경쟁력 있음

의의 및 한계

이 연구는 의료 분야에서 확산 언어 모델의 실용성을 입증하며, 특히 보고서 작성 시의 유연성과 효율성을 높이는 any-order infill 기능을 제시한다. 기존 AR 모델과 비교해 동일한 성능을 유지하면서도 추론 속도가 훨씬 빠르므로 임상 환경에서 유용할 수 있다. 그러나 연구는 주로 CXR 보고서에 초점을 맞췄으며, 다른 의료 영상 유형이나 더 복잡한 임상 상황에 대한 적용 가능성은 추가 연구가 필요하다.

실용적 활용

이 모델은 병원 내 라디올로지 부서에서 보고서 작성 과정을 자동화하고, 의사가 작성한 텍스트 조각을 기반으로 보고서를 완성하는 데 활용될 수 있다. 특히 여러 병원 간 보고서 형식의 불일치를 보완하거나, 보고서 작성 시간을 단축하는 데 유용할 수 있다.