Neural-network-based subgrid-scale modeling and its application to flows over complex geometries = 인공신경망기반 아격자스케일 모델링과 복잡한 형상 주위 유동에의 적용

다국어 초록 (Multilingual Abstract)

This dissertation presents a novel neural-network (NN)-based subgrid-scale (SGS) modeling approach for large eddy simulation (LES) and its application to flows over complex geometries. The research is structured in two major parts: first, developing and validating an NN-based SGS model for flow over a circular cylinder, and second, extending this approach to more complex geometries.
In the first part, fully-connected neural networks are constructed to predict SGS stresses for flow over a circular cylinder at Reynolds number 3900. A new NN architecture is proposed that integrates both grid and test-filtered variables as inputs through a fusion process. The performance of this architecture is compared with traditional models and NN architectures without fusion process through both a priori and a posteriori tests. Results demonstrate that models utilizing grid- and test-filtered inputs with fusion (T-SR-FU and T-VG-FU) significantly outperform traditional models such as dynamic Smagorinsky model (DSM), particularly when applied to grid resolutions and Reynolds numbers (5000 and 10000) different from training conditions.
In the second part, the NN-based SGS model is enhanced for application to more complex and untrained geometries. The generalizablity of the NN-based model is improved with key design features including: 1) using more training datasets from diverse flows such as turbulent channel flow and flow over a circular cylinder, 2) using input features derived from traditional turbulence models and 3) excluding bias terms and batch normalization to ensure homogeneity while preserving non-linearity. The enhanced model is tested on both trained and untrained flows (backward-facing step flow at Reh = 5100 and flow over an SD7003 airfoil at Rec = 60000). Results show remarkable generalizability across different flow configurations, accurately predicting critical flow parameters such as recirculation length, pressure recovery, and transition processes.
This research demonstrates that NN-based approaches, when carefully designed with appropriate physical constraints and generalizable features, offer a promising direction for developing advanced SGS models for complex turbulent flows. The models show superior ability to capture complex flow phenomena, making them valuable tools for engineering applications involving complex geometries.

국문 초록 (Abstract)

본 논문에서는 큰 에디 모사(large eddy simulation, LES)를 위한 새로운 인공신경망(neural network, NN) 기반 아격자스케일(subgrid scale,SGS) 모델링 방법과 복잡한 형상 주위 유동에의 적용에 관한 연구를 제시하였다. 이 연구는 두 개의 파트로 구성되어 있다: 첫째, 원형 실린더 주위 유동에 대한 NN 기반 SGS 모델의 개발 및 검증, 둘째, 이 접근 방식을 더 복잡한 형상으로 확장하는 것이다. 첫 번째 파트에서는 Reynolds 수 3900에서 원형 실린더 주위 유동에 대한 SGS 응력을 예측하기 위해 완전 연결 신경망을 구성하였다. 격자 필터링된 변수와 테스트 필터링된 변수를 융합 과정 통해 입력값으로 통합하는 새로운 NN 구조를 제안하였다. 이 구조의 성능은 전통적인 모델과 융합 과정이 없는 NN 구조와 비교하여 a priori 및 a posteriori 테스트를 통해 평가되었다. 결과는 격자 및 테스트 필터링된 입력값을 융합과 함께 활용하는 모델(T-SR-FU 및 T-VG-FU)이 동적 Smagorinksy 모델(DSM)과 같은 전통적인 모델보다 우수한 성능을 보여주었으며, 특히 훈련 조건과 다른 격자 해상도 및 Reynolds 수(5000 및 10000)에 적용될 때 더욱 두드러졌다. 두 번째 파트에서는 NN 기반 SGS 모델을 더 복잡하고 훈련되지 않은 형상에 적용하기 위해 개선하였다. NN 기반 모델의 일반화 성능은 다음과 같은 주요 설계 특징으로 향상되었다: 1) 난류 채널 유동과 원형 실린더 주위 유동과 같은 다양한 유동에서 얻은 더 많은 훈련 데이터셋 사용, 2) 전통적인 난류 모델에서 파생된 입력 특징 사용, 3) 균질성을 보장하면서 비선형성을 유지하기 위해 바이어스 항과 배치 정규화 제외. 개선된 모델은 훈련된 유동과 훈련되지 않은 유동(후향계단 유동(Reh = 5100) 및 SD7003 에어포일 주위 유동(Rec = 60000)) 모두에 대해 테스트되었다. 결과는 재순환 길이, 압력 회복, 천이 과정과 같은 중요한 유동 매개변수를 정확하게 예측하며 다양한 유동 구성에 걸쳐 놀라운 일반화 가능성을 보여주었다. 이 연구는 적절한 물리적 제약과 일반화 가능한 특징으로 신중하게 설계된 NN기반 접근 방식이 복잡한 난류 유동에 대한 개선된 SGS 모델 개발에 유망한 방향을 제시함을 보여준다. 이러한 모델은 복잡한 유동 현상을 포착하는 우수한 능력을 보여주며, 복잡한 형상이 포함된 공학 응용에 유용한 도구가 될 수 있다.

목차 (Table of Contents)

• Abstract i
• Contents iii
• List of Figures vi
• List of Tables xv
• Part I Large eddy simulation of flow over a circular cylinder with NN-based SGS models 1
• 1 Introduction 2
• 2 Numerical details and training data 8
• 2.1. Numerical details 8
• 2.2. Training data 17
• 3 FCNN training 20
• 3.1. Input and output variables 20
• 3.2. Neural network architectures 23
• 3.3. Training details 26
• 4 Results 29
• 4.1. A priori tests 29
• 4.2. A posteriori tests 34
• 4.2.1. LES with the grid resolution same as that of training data (Red = 3900) 38
• 4.2.2. LES with a grid resolution different from that of training data (Red = 3900) 42
• 4.2.3. LES at higher Reynolds numbers (Red = 5000 and 10000) 47
• 5 Summary and concluding remarks 52
• Part II Large eddy simulation of flows over complex geometries with an NN-based SGS model 56
• 1 Introduction 57
• 2 Numerical details 61
• 3 NN-based SGS model 68
• 3.1. Training data 68
• 3.2. Neural network architecture 70
• 3.3. Input and output features 75
• 4 Results 76
• 4.1. Turbulent channel flow at Reτ ≈ 178 77
• 4.2. Flow over a circular cylinder at Red = 3900 79
• 4.3. Backward-facing step flow at Reh = 5100 82
• 4.4. Flow over an SD7003 at Rec = 60000 90
• 5 Summary and concluding remarks 97
• Bibliography 100
• Appendix 110
• A Effects of the size of training data in a priori and a posteriori tests 110
• B Effects of the numbers of the hidden layers and nodes on the flow statistics from a posteriori test 113
• C Grid-resolution study for a posteriori tests at Red = 3900, 5000 and 10000 115
• D LES of turbulent channel flow with grid- and test-filtered inputs and fusion 120
• E Computational cost 123
• F Loss function for consistent training 126
• G Flow over an SD7003 at higher angle of attacks 129
• 국문 초록 132
• Acknowledgement 134