Visible-Light Imaging Diagnosis of Neutral Particle Emission Tomography in the Tokamak Divertor: An Efficient Transformer-based Surrogate Model

Nuclear fusion has made significant progress in recent years and is expected to become one of the most important pathways to addressing global energy challenges. This paper focuses on observing plasma using visible-light cameras, analyzing its spatio-temporal motion cues, and predicting the two-dimensional spatial distribution of light intensity, aiming to provide a foundational basis for future scientific experiments using deep neural networks. Specifically, we propose Delta-InvFormer, a novel backbone network centered on a differential Transformer. The key insight is that by taking consecutive video frames as input, we can better capture the dynamics of the plasma. Moreover, spatial and temporal differential self-attention effectively mitigates interference from noisy signals, ensuring high-quality feature extraction. These features are then fused into a compact and informative representation, which is fed into a decoder network to predict the distribution. Based on real experimental data collected from the Experimental Advanced Superconducting Tokamak (EAST) large-scale scientific facility, our results demonstrate that the proposed model not only significantly accelerates traditional methods for distribution prediction but also achieves competitive reconstruction accuracy. The source code of this paper will be released on https://github.com/Event-AHU/OpenFusion

한 줄 요약

Delta-InvFormer는 EAST 토카막에서 중성입자 방출 톰ограф리 분포를 빠르고 정확하게 재구성하는 Transformer 기반 서러지 모델이다.

핵심 기여도

Delta-InvFormer를 제안하여, 기존 방법 대비 약 200배 빠른 추론 속도를 달성하면서도 경쟁력 있는 재구성 정확도를 유지.
S-DiffFormer와 T-DiffFormer라는 새로운 공간-시간 차분 어텐션 모듈을 도입, 노이즈 제거 및 특징 추출 성능 향상.
EAST 토카막의 실제 실험 데이터를 기반으로 모델 성능 검증.
MRE 기준에서 기존 SegFormer 대비 39.5% 개선 (5.360%).

핵심 아이디어

기존의 중성입자 방출 분포 재구성 문제는 선형 역 문제로 처리되며, SAART나 필립스-티코노프 정칙화와 같은 물리 기반 알고리즘을 사용한다. 하지만 이 방법들은 계산 비용이 높고, 노이즈에 민감하며, 실시간 성능 요구를 충족하지 못한다. 본 연구는 이러한 문제를 해결하기 위해 Delta-InvFormer라는 Transformer 기반 서러지 모델을 제안한다. 이 모델은 연속된 영상 프레임을 입력으로 받아 플라즈마의 동적 특성을 포착하고, 공간-시간 차분 어텐션(S-DiffFormer, T-DiffFormer)을 통해 노이즈를 효과적으로 억제한다. 특히, Flash Attention 기반의 어텐션 매트릭스 차분 모델링을 통해 불필요한 상관관계를 제거하고, 중요한 특징에 집중함으로써 정확도를 향상시킨다.

기술적 접근법

**모델 구조**: Delta-InvFormer는 SegFormer의 MiT 백본을 기반으로 하며, S-DiffFormer와 T-DiffFormer 모듈을 결합한 하이브리드 Transformer 구조를 채택.
**S-DiffFormer**: 공간 차분 어텐션을 통해 노이즈 제거 및 공간적 특징 강화.
**T-DiffFormer**: 시간 차분 어텐션을 통해 연속 프레임 간의 시계열 의존성을 학습.
**입력**: EAST 토카막의 고해상도 가시광 카메라 영상.
**출력**: 2D 중성입자 방출 분포 맵.
**하이퍼파라미터**: 실험에서는 MRE (Mean Relative Error)를 주요 평가 지표로 사용.

주요 결과

**MRE 기준**: Delta-InvFormer는 5.360%의 평균 상대 오차를 달성.
**기존 모델 대비 개선**: SegFormer 대비 39.5% 개선 (기준 8.858% → 5.360%).
**추론 속도**: 기존 방법 대비 약 200배 빠른 추론 속도를 달성.
**데이터셋**: Experimental Advanced Superconducting Tokamak (EAST) 실험 데이터 사용.

의의 및 한계

Delta-InvFormer는 기존의 물리 기반 역 문제 접근법을 대체할 수 있는 데이터-드라이브 모델로서, 계산 효율성과 정확도를 동시에 달성한 점에서 학술적 및 실용적 가치가 있다. 특히, S-DiffFormer와 T-DiffFormer 모듈은 노이즈 제거와 특징 추출에서 뛰어난 성능을 보이며, 토카막 이미징 분야에 새로운 가능성을 제시한다. 그러나 현재 사용된 데이터셋의 크기가 제한적이어서, 다양한 방전 조건에 대한 일반화 능력이 제약된다. 또한, 추론 속도는 CCD 시스템의 고속 샘플링 요구를 완전히 충족하지 못하는 것으로 나타났다.

실용적 활용

Delta-InvFormer는 토카막 장치의 실시간 플라즈마 진단, 특히 중성입자 방출 분포 추정에 활용될 수 있다. 또한, 고해상도 영상 기반의 역 문제 해결이 필요한 다른 과학 실험 장비나 산업 분야에서도 유용하게 적용될 수 있다. 특히, AI와 핵융합 연구의 융합이 기대되는 분야에서 모델의 확장 및 최적화가 필요하다.