A derivative-fidelity failure mode in physics-informed neural networks: strengthened benchmark evidence from function-value training

Koji Koyamada

arXiv:2609.13171 · 2026-09-15 공개 · arXiv · PDF

benchmark-evaluation neural-networks physics-informed-neural-networks activation-functions error-diagnostics automatic-differentiation derivative-fidelity function-value-training

Abstract

Physics-informed neural networks (PINNs) use automatic differentiation to impose differential-equation residuals, but good agreement in function values does not necessarily imply accurate derivatives. This paper formulates derivative fidelity as a failure mode of PINNs and tests it with one-dimensional benchmarks. Multilayer perceptrons are trained only on function values for sin(x) and exp(x), while second derivatives obtained by automatic differentiation are evaluated separately. The hypothesis is strengthened by additional tests over training-point density, activation functions, endpoint-dense evaluation, and both L2 and maximum-error diagnostics. The results show that visually accurate function approximation can coexist with substantially larger second-derivative errors, especially near high-curvature boundary regions. The experiment provides a diagnostic protocol for distinguishing value accuracy from physics-residual reliability.

한국어 요약

한 줄 요약

PINNs에서 함수값 정확도가 미분 정확도를 보장하지 않는 실패 모드를 제시한다.

핵심 기여도

핵심 아이디어

PINNs는 미분 방정식 잔차를 자동 미분을 통해 강제하지만, 함수값 정확도가 미분 정확도를 보장하지 않는다는 점이 핵심 문제이다. 이 연구는 이 현상을 '미분 정확도 실패 모드'로 명명하고, 1차원 문제에서 이를 실험적으로 검증한다. 특히, sin(x)와 exp(x) 함수를 대상으로 학습은 함수값만을 기반으로 진행되며, 자동 미분을 통해 얻은 2차 미분값을 별도로 평가함으로써 함수 근사 정확도와 물리 잔차 신뢰도가 분리될 수 있음을 보여준다.

기술적 접근법

주요 결과

의의 및 한계

이 연구는 PINNs의 핵심 가정, 즉 함수 근사 정확도가 물리 잔차 신뢰도를 보장한다는 점에 대한 의문을 제기한다. 이는 PINNs의 진단 프로토콜 개선과 모델 신뢰도 평가 기준 재정립에 기여할 수 있다. 다만, 실험은 1차원 문제에만 제한되며, 고차원 문제나 복잡한 PDE에 대한 일반화는 명시되지 않음.

실용적 활용

이 연구는 PINNs를 기반으로 한 물리 기반 모델링에서 미분 잔차 신뢰도를 별도로 평가할 필요성을 강조하며, 재현 실험 설계, 모델 진단, 신뢰도 분석 등에서 활용 가능하다. 특히 경계 영역의 정확도가 중요한 응용 분야에서 유용할 수 있음.