기계 학습과 전산 유체 역학을 통합하여 가속화되고 확장 가능하며 신뢰할 수 있는 유체 흐름 시뮬레이션 = Integrating machine learning with computational fluid dynamics for accelerated, scalable, and reliable fluid flow simulation

다국어 초록 (Multilingual Abstract)

Computational fluid dynamics (CFD) plays a pivotal role in reducing design iterations for next-generation nuclear systems, such as small modular reactors (SMRs). By resolving local thermal hydraulic phenomena with high fidelity, CFD supports detailed safety assessments in nuclear power plants (NPPs). However, the computational cost associated with such high-resolution simulations is substantial. In parallel, advances in artificial intelligence (AI) have led to the development of surrogate models that can alleviate this burden. Yet, purely data-driven surrogates are prone to error accumulation and may yield non-physical solutions when deployed over long-time horizons.

This thesis presents a hybrid AI-CFD framework within a fully automated and adaptive framework designed to mitigate these limitations. The central idea is to employ a neural-network surrogate to provide fast predictions while adaptively invoking the underlying CFD solver when the surrogate's predictions begin to drift, thereby stabilizing the solution. Using a canonical natural convection problem as a testbed, the framework operates reliably over many timesteps and across diverse boundary conditions. The design is modular, allowing any variety of scientific machine learning (SciML)-based neural accelerators to be used within the hybrid loop without altering the surrounding CFD workflow. The hybrid concept is further extended to a three-dimensional natural convection case, where it achieves up to a 4.98 x speedup relative to standalone CFD while maintaining temperature-field relative errors on the order of 1e-3. Although the immediate focus is on passive cooling systems in reactor thermal hydraulics, the methodology is intended to generalize to a broader class of problems in nuclear engineering and other areas of computational physics.

국문 초록 (Abstract)

전산유체역학(Computational Fluid Dynamics, CFD)은 소형 모듈형 원자로(Small Modular Reactors, SMRs)와 같은 차세대 원자력 시스템의 설계 반복 횟수를 줄이는 데 중추적인 역할을 한다. 국부적인 열수력 현상을 고정밀도로 해석함으로써, CFD는 원자력 발전소(Nuclear Power Plants, NPPs)의 상세한 안전성 평가를 지원한다. 그러나 이러한 고해상도 시뮬레이션에 수반되는 계산 비용은 상당하다. 한편, 인공지능(Artificial Intelligence, AI)의 발전은 이러한 부담을 경감할 수 있는 대체(surrogate) 모델의 개발로 이어졌다. 그러나 순수하게 데이터 기반인 대체 모델은 오차 누적에 취약하며, 장시간에 걸쳐 사용될 경우 비물리적인 해를 생성할 수 있다.

본 학위논문은 이러한 한계를 완화하도록 설계된 완전 자동화 및 적응형 프레임워크 내에서 하이브리드 AI--CFD 프레임워크를 개발한다. 핵심 아이디어는 빠른 예측을 제공하기 위해 신경망 기반 대체 모델을 사용하되, 그 예측이 드리프트하기 시작할 때 기저 CFD 해석기를 적응적으로 호출함으로써 해를 안정화하는 것이다. 표준적인 자연 대류 문제를 시험장(testbed)으로 사용하여, 제안된 프레임워크가 많은 시간 단계에 걸쳐 그리고 다양한 경계 조건 하에서 신뢰성 있게 작동함을 보인다. 이 설계는 모듈식(modular) 구조를 가지며, 주변 CFD 워크플로를 변경하지 않고도 서로 다른 과학 기계학습(Scientific Machine Learning, SciML) 기반 신경 가속기들을 하이브리드 루프 내에서 교체할 수 있음을 보여준다. 하이브리드 개념은 추가로 3차원 자연 대류 사례로 확장되며, 여기서 단독 CFD 대비 최대 4.98 x 의 속도 향상을 달성하는 동시에 온도장에 대한 상대 오차를 대략 1e-3 수준으로 유지한다. 비록 당장의 초점은 원자로 열수력 분야의 수동 냉각(passive cooling) 시스템에 맞추어져 있지만, 제안된 방법론은 원자력 공학 및 기타 전산 물리 영역의 보다 광범위한 문제들로 일반화되는 것을 목표로 한다.

목차 (Table of Contents)

• List of figures v
• List of tables vi
• List of symbols vii
• Abstract xi
• 1. Introduction 1
• 1.1 Background 1
• 1.1.1 Significance of the research 3
• 1.1.2 Research Objectives 4
• 1.2 Thesis Outline 5
• 2. Literature survey 7
• 2.1 The computational cost of traditional CFD 7
• 2.2 Data-driven surrogates for fluid dynamics 8
• 2.2.1 Emergence of machine learning accelerators 8
• 2.2.2 Advanced and physics-aware architectures 8
• 2.2.3 The neural operator paradigm 9
• 2.3 Limitations of purely data-driven models 9
• 2.3.1 The critical flaw: Error accumulation 9
• 2.3.2 Constraints of neural operators 10
• 2.4 Hybrid ML-CFD strategies: A path to robustness 11
• 2.4.1 A taxonomy of hybrid methods 11
• 2.4.2 The identified research gap 12
• 2.5 Foundational works for this thesis 12
• 2.5.1 The vanilla RePIT strategy 12
• 2.5.2 Finite volume method network (FVMN) 15
• 3. Methodology 18
• 3.1 Numerical simulation setup 18
• 3.1.1 Governing physics and solver 18
• 3.1.2 Discretization and linear solvers 19
• 3.1.3 Computational domain and case definitions 20
• 3.2 Modular architecture of hybrid workflow 22
• 3.2.1 The hybrid orchestrator 23
• 3.2.2 Machine learning modules 26
• 3.2.3 Solver interface and data exchange 27
• 3.3 Adaptive control and physics-informed data handling 29
• 3.3.1 A priori boundary condition enforcement 29
• 3.3.2 Residual-guided switching logic 29
• 3.3.3 A posteriori mass flux correction 31
• 3.4 Finite volume based neural network method 33
• 3.4.1 Targeted improvements in the FVMN 34
• 3.4.2 Derivation and hyper-parameters for FVFNO 34
• 3.5 Performance and error metrics 37
• 3.5.1 Performance metrics 37
• 3.5.2 Accuracy metrics 39
• 4. Results 41
• 4.1 Hybrid framework to overcome catastrophic failure in auto-regressive surrogates 41
• 4.2 Performance comparison with the previous baseline 42
• 4.3 Tunable performance of the hybrid methodology 45
• 4.4 Generalization of the hybrid method to unseen conditions 51
• 4.5 Adversarial benchmarking of SciML models 55
• 4.6 Scalability of the hybrid method to three-dimensional flows 57
• 5. Conclusion and future direction 65
• 5.1 Conclusion 65
• 5.1 Future Direction 66
• A. Appendix 68
• A.1 Supplementary Movie 68
• A.2 Software walkthrough 68
• A.2.1 Code release 68
• A.2.2 Hardware and software information 69
• Bibliography 70
• 요약 81