A generalized neural-network-based subgrid-scale model for large eddy simulation = 큰 에디 모사를 위한 범용화된 신경망 기반 아격자 스케일 모델

국문 초록 (Abstract)

본 연구는 큰 에디 모사(LES)를 위한 일반화된 신경망 기반 아격자 스케일(subgrid-scale, SGS) 모델을 개발한다. 제안된 모델은 다양한 특성 길이 및 속도 척도, 레이놀즈 수, 그리고 격자 해상도에 대응할 수 있도록 설계된 재귀적 신경망 기반 SGS 모델(recursive NN-based SGS model)이다. 학습되지 않은 유동 구조(topology)에 대한 일반화 성능을 향상시키기 위해 새로운 동적(dynamic) 접근법도 도입하였다. 그 결과, 제안된 신경망 기반 SGS 모델은 단순한 강제 균질 등방성 난류(forced HIT)만으로 학습하였음에도 불구하고, 기존의 전통적 SGS 모델에 필적하는 예측 성능을 보이며, 기존 신경망 기반 SGS 모델의 일반화(generalization) 한계를 효과적으로 극복함을 확인하였다.

연구의 첫 번째 부분에서는, 높은 레이놀즈 수 난류 유동에 대한 LES를 위한 신경망 기반 SGS 모델에 재귀적 과정을 도입한다. 이 과정은 비싼 필터링된 직접수치모사(filtered DNS) 데이터를 사용하지 않고도 다양한 격자 크기 계층에 대해 적용 가능한 SGS 모델을 구현하는 것을 목표로 한다. 절차는 다음과 같다: 1) 낮은 레이놀즈 수에서 필터링된 DNS 데이터를 이용하여 신경망 기반 SGS 모델을 학습; 2) 학습된 모델을 보다 높은 레이놀즈 수에서의 LES에 적용; 3) 필터링된 LES(fLES) 데이터를 추가하여 학습 데이터를 보강하고, 이를 바탕으로 SGS 모델 업데이트; 4) 업데이트된 신경망을 다시 더 높은 레이놀즈 수의 LES에 적용; 5) 타겟 필터 크기가 콜모고로프 길이 척도 대비 원하는 비율에 도달할 때까지 3)으로 돌아가 절차 반복.
또한 본 연구에서는 이중 신경망 구조(dual NN architecture)를 도입하여, 하나의 신경망은 SGS 정상 응력(normal stress), 다른 하나는 SGS 전단 응력(shear stress)을 예측하도록 하였다. 입력 변수는 속도 구배 텐서와 격자 크기로 구성된다. 나아가, 하나의 유동에서 학습된 신경망 기반 SGS 모델을 다른 유동에 적용하기 위해, 편향을 제거하고 활성함수로서 leaky ReLU 함수를 도입하는 방식으로 신경망 구조를 조정하였다. 제안된 재귀적 신경망 기반 SGS 모델은 강제 균일 등방성 난류에 적용되어 높은 레이놀즈 수 조건에서도 정확한 예측을 수행하며, 동일 모델이 감쇠하는 균일 등방성 난류(decaying HIT)에도 적용되어 뛰어난 예측 성능을 보였다.

연구의 두 번째 부분에서는, LES를 위한 동적 및 재귀적 신경망 기반 SGS 모델(DRNM, dynamic recursive NN-based SGS model)을 개발한다. RNM은 원래 3차원 강제 등방성 난류에서 학습된 모델이며, 이를 동적 접근법을 통해 일반 유동으로 확장하였다. 동적 접근법에 필요한 비례 계수는, SGS 응력의 크기가 그 정의에 대한 테일러 전개에 의해 유도된 표현과 일치해야 한다는 가정을 바탕으로 도출되었으며, 클리핑(clipping)이나 테스트 필터링이 없이도 양의 전역 SGS 소산을 보장한다. 제안된 DRNM은 학습 데이터에 포함되지 않은 Re_tau ~ 395 및 950의 난류 채널 유동, 그리고 Re_d = 3900 조건의 원형 실린더 주변 유동에 적용되었다. 비록 DRNM은 강제 균질 등방성 난류에서만 학습되었지만, 평균 속도, 속도 변동, 레이놀즈 전단 응력 등 주요 난류 통계 예측에 있어 동적 Smagorinsky 모델 및 동적 Vreman 모델과 같은 전통적 동적 모델과 동등하거나 우수한 성능을 나타낸다. 동일한 유동에서 학습된 신경망 기반 SGS 모델보다는 다소 정확도가 낮을 수 있으나, DRNM은 우수한 일반화 능력을 바탕으로 다양한 유동에 적용 가능한 가능성을 보여준다.

다국어 초록 (Multilingual Abstract)

The present study develops a generalized neural-network-based subgrid-scale (NN-based SGS) model for large eddy simulation (LES). A recursive NN-based SGS model is proposed, designed to accommodate varying characteristic length and velocity scales, Reynolds numbers, and grid resolutions. To enhance generalization to flows with untrained topologies, a novel dynamic procedure is incorporated. The results demonstrate that the NN-based SGS model can achieve performance comparable to traditional models, even when trained on simple flows such as forced homogeneous isotropic turbulence, thereby addressing the generalization limitations of previous NN-based SGS approaches.

In the first part, We introduce a novel recursive procedure to a NN-based SGS model for large eddy simulation of high Reynolds number turbulent flow. This process is designed to allow an SGS model to be applicable to a hierarchy of different grid sizes without requiring an expensive filtered direct numerical simulation (DNS) data: 1) train an NN-based SGS model with filtered DNS data at a low Reynolds number; 2) apply the trained SGS model to LES at a higher Reynolds number; 3) update this SGS model with training data augmented with filtered LES (fLES) data, accommodating coarser filter size; 4) apply the updated NN to LES at a further higher Reynolds number; 5) go back to 3) until a target (very coarse) filter size divided by the Kolmogorov length scale is reached. We also construct an NN-based SGS model using a dual NN architecture whose outputs are the SGS normal stresses for one NN and the SGS shear stresses for the other NN. The input is composed of the velocity gradient tensor and grid size. Furthermore, for the application of an NN-based SGS model trained with one flow to another flow, we modify the NN by eliminating bias and introducing leaky rectified linear unit function as an activation function. The present recursive SGS model is applied to forced homogeneous isotropic turbulence (FHIT), and successfully predicts FHIT at high Reynolds numbers. The present model trained from FHIT is also applied to decaying homogeneous isotropic turbulence, and shows an excellent prediction performance.

In the second part, We develop a dynamic recursive neural-network-based subgrid-scale model (dynamic RNM, DRNM) for large eddy simulation (LES). The RNM, originally trained on three-dimensional forced homogeneous isotropic turbulence (HIT), is extended to general flows through a dynamic approach. The scaling coefficient for the dynamic approach is derived based on the assumption that the magnitude of the subgrid-scale (SGS) stress should match that from a Taylor expansion of the SGS stress definition, ensuring positive global SGS dissipation without requiring clipping or test filtering. The DRNM is applied to turbulent channel flows at Re_tau ~ 395 and 950, and flow over a circular cylinder at Re_d = 3900, none of which were included in the training data. Despite being trained solely on forced HIT, the DRNM outperforms or matches traditional dynamic models such as the dynamic Smagorinsky model and the dynamic Vreman models in predicting key turbulence statistics, including mean velocity, velocity fluctuation, and Reynolds shear stress. Although it is less accurate than neural-network-based SGS models trained on the same target flows, DRNM shows promising generalization and potential for application to a wide range of flow configurations.

목차 (Table of Contents)

• Abstract i
• Contents iv
• List of Figures vii
• List of Tables xv
• Part I A recursive neural-network-based subgrid-scale model for large eddy simulation: application to homogeneous isotropic turbulence 1
• 1 Introduction 2
• 2 Numerical details 10
• 2.1. Large eddy simulation 10
• 2.2. NN-based SGS model 13
• 2.3. Forced homogeneous isotropic turbulence (FHIT) and filtering method 17
• 3 A recursive NN-based SGS model (RNM) 25
• 3.1. A recursive algorithm 25
• 3.2. RNM trained with fDNS data: a priori and a posteriori tests 26
• 3.3. RNM trained with fDNS and fLES data: a priori and a posteriori tests 29
• 3.4. Applying RNM to LES with smaller grids 31
• 3.5. A posteriori test using a finite difference method with a box filter 32
• 4 Applications to FHIT at high Reynolds numbers and DHIT 47
• 4.1. Forced homogeneous isotropic turbulence at high Reynolds numbers 47
• 4.2. Decaying homogeneous isotropic turbulence 49
• 4.3. Computational cost 53
• 5 Conclusions 63
• Part II A dynamic recursive neural-network-based sub-grid scale model for large eddy simulation 66
• 1 Introduction 67
• 2 Large eddy simulation and subgrid-scale models 71
• 2.1. Recursive neural-network-based subgrid-scale model 72
• 2.2. Traditional SGS models and a novel dynamic approach 74
• 3 Results 80
• 3.1. Turbulent channel flow 80
• 3.2. Flow over a circular cylinder at Re_d = 3900 84
• 4 Conclusions 100
• Bibliography 102
• 국문 초록 112
• Acknowledgement 114