Tabular foundation models for robust calibration of near-infrared chemical sensing data

Near-infrared spectroscopy is increasingly used as a rapid, non-destructive chemical sensing technology for the analysis of food, pharmaceutical, biological, and environmental samples. However, the practical deployment of NIR sensors still depends on calibration models able to handle high-dimensional, collinear spectra, limited sample sizes, preprocessing dependence, spectral outliers, and extrapolation beyond the calibration domain. Here, we evaluate whether tabular foundation models can provide a new calibration strategy for NIR chemical sensing. We benchmark TabPFN on 66 NIR datasets covering 54 regression and 12 classification tasks, and compare direct inference on raw spectra with preprocessing-optimized inference against PLS/PLS-DA, Ridge, Catboost, and one-dimensional convolutional neural networks. The study uses a unified validation framework in which preprocessing and model selection are performed exclusively on calibration data before external test evaluation. In regression, preprocessing-optimized TabPFN achieves the best overall average rank and significantly outperforms PLS, CatBoost, TabPFN on raw spectra, and CNN-1D, while remaining statistically comparable to Ridge. In classification, TabPFN applied directly to raw spectra provides the best average rank, with performance close to the optimized variant. Robustness analyses show that TabPFN provides strong average predictive performance but that its advantage decreases on spectral outliers and extrapolated samples, where classical chemometric models remain competitive. These results suggest that tabular foundation models can complement established chemometric workflows for NIR chemical sensing, especially in small- to medium-sized calibration settings, while highlighting the need for spectroscopy-specific priors and uncertainty-aware deployment strategies.

한 줄 요약

**[Tabular FM / NIR 화학 센싱]** TabPFN을 66 NIR 데이터셋(54 회귀·12 분류)으로 벤치마크 — 전처리 최적화 TabPFN이 회귀에서 PLS·CatBoost·CNN-1D 능가·Ridge와 동등, raw spectra 분류에서 최고 평균 rank 달성.

핵심 기여도

근적외선 분광(NIR)이 식품·의약품·생물·환경 시료의 빠르고 비파괴적인 화학 센싱 기술로 점차 사용되지만, NIR 센서의 실용 배치가 high-dimensional·collinear spectra·limited sample size·preprocessing 의존·spectral outlier·calibration domain 외 extrapolation을 다룰 수 있는 calibration 모델에 의존함을 진단.
Tabular foundation 모델이 NIR 화학 센싱의 새 calibration 전략을 제공할 수 있는지 평가.
TabPFN을 66 NIR 데이터셋(54 regression task·12 classification task)으로 벤치마크, raw spectra direct inference와 preprocessing-optimized inference를 PLS/PLS-DA·Ridge·CatBoost·1D-CNN과 비교.
통합 validation framework — 전처리·model selection은 calibration data에서만 수행 후 external test 평가. 회귀에서 preprocessing-optimized TabPFN이 best overall 평균 rank, PLS·CatBoost·raw TabPFN·CNN-1D를 significantly outperform, Ridge와는 통계적으로 동등. 분류에서는 raw spectra의 TabPFN이 best 평균 rank, 전처리 변종에 근접한 성능. Robustness 분석은 TabPFN이 강한 평균 예측 성능 제공하나 spectral outlier·extrapolated 시료에서 이점 감소, 기존 chemometric 모델이 competitive함을 보임.

핵심 아이디어

Tabular foundation 모델이 NIR 같은 specialized 화학 센싱에서도 강력하지만 spectral outlier·extrapolation에서는 chemometric 방법의 spectroscopy-specific prior가 여전히 가치 있으므로, foundation model과 classical chemometrics는 complementary로 결합해야 한다.

기술적 접근법

**방법론**: TabPFN 벤치마크 + 통합 validation framework.
**핵심 기법**: (1) 66 NIR 데이터셋(54 회귀·12 분류), (2) Raw spectra direct inference와 preprocessing-optimized inference 두 변종, (3) PLS/PLS-DA·Ridge·CatBoost·CNN-1D baseline, (4) Calibration data에서만 preprocessing·model selection·external test로 평가, (5) Spectral outlier·extrapolation robustness 분석.

주요 결과

회귀: preprocessing-optimized TabPFN이 best overall 평균 rank, PLS·CatBoost·raw TabPFN·CNN-1D significantly outperform, Ridge와 통계 동등.
분류: raw spectra TabPFN이 best 평균 rank, 전처리 최적화 변종 근접.
Robustness: TabPFN이 강한 평균 성능, spectral outlier·extrapolation에서 chemometric이 competitive.
결론: Tabular foundation model이 NIR 화학 센싱에 complement, small·medium calibration 환경에 특히 유용, spectroscopy-specific prior·uncertainty-aware deployment 필요성 강조.

의의 및 한계

**의의**: NIR 분광에 tabular foundation 모델의 실용성 처음 체계 검증, 통합 validation framework, foundation·chemometrics complementary 발견. **한계**: TabPFN의 outlier·extrapolation 약점 — production에서는 chemometric 모델 병행 필요, spectroscopy-specific prior 부재, uncertainty quantification 미커버.

실용적 활용

NIR 기반 식품·약품·환경·생물 모니터링.
작은 calibration 데이터셋의 foundation model 활용.
Foundation·chemometrics hybrid calibration 시스템.