Robust Adaptation Strategies of Data-Driven Models for Chemical Process System = 화학 공정 시스템을 위한 데이터 기반 모델의 강건한 적응 전략|RISS 상세보기

다국어 초록 (Multilingual Abstract)

The modeling of chemical processes is an important step in the simulation, optimization, and control of systems, and various studies have employed both first-principles and data-driven methods. However, these methods face several challenges when modeling industrial processes. First-principles modeling can construct reliable models if the mechanism of the process is accurately understood. However, the increasing complexity of modern processes poses challenges to accurately capturing their mechanics. Data-driven modeling does not require prior knowledge of the process, making it applicable to complex systems. However, in industrial processes, data is often limited to normal operating conditions, which can lead to overfitting of the data-driven model. In addition, processes are subject to rectifications and changes in operating conditions, posing the challenge of acquiring sufficient data for the modified process. Therefore, to apply data-driven modeling in industrial chemical processes, adaptation strategies are needed to address the aforementioned challenges.
In this regard, this thesis proposes effective and robust adaptive strategies to address the challenges faced during data-driven modeling of industrial chemical processes. First, the application of envelope Bayesian optimization is proposed to minimize the data needed for optimizing the catalyst packing ratio in the Fischer-Tropsch microchannel reactor. The envelope Bayesian optimization was modified to accommodate the different optimization dimensions of single-channel and 4-channel reactors. The proposed optimizer not only reduces the data required to reach the optimal point compared to generic Bayesian optimization but also demonstrates robust optimization performance even when the optimization range varies. Second, a hybrid modeling approach is proposed for predicting concentration, integrating prior process knowledge with data-driven modeling methods. This approach leverages a first-principles model of the process to enhance the accuracy and robustness of concentration prediction. The proposed hybrid model improves generalization performance and exhibits better prediction accuracy compared to the data-driven model when encountering process changes. Moreover, the hybrid model is used to construct a refractive index fault detection model by augmenting the monomer concentration of the stream which has longer sampling frequency intervals. This fault detection model demonstrates higher performance compared to models relying solely on existing process data.
Proposed robust adaptation strategies to overcome the challenges of implementing data-driven modeling in industrial chemical processes, encompassing issues such as acquiring new process data, handling data imbalance, and addressing differences in sampling frequency. These adaptation strategies were then applied to various chemical processes, demonstrating improved performance compared to conventional modeling methods.

번역하기

국문 초록 (Abstract)

화학 공정의 모델링은 시스템의 시뮬레이션과 최적화 그리고 제어를 하는 데 있어 필수적인 과정이다. 따라서 제일 원리 또는 데이터 기반 방법론을 이용하여 모델링을 하는 연구들이 진행해 왔다. 그러나 실제 산업 공정들을 모델링 하기에 기존의 방법들은 몇 가지 문제점들이 존재한다.
먼저 제일원리 기반 모델링의 경우 프로세스의 메커니즘이 정확히 파악될 경우 높은 신뢰도의 모델을 얻을 수 있지만, 화학 산업 공정의 경우 복잡한 시스템을 가지고 있어 신뢰도 있는 모델을 구성하는 데 비용과 노력이 많이 든다. 데이터 기반 모델링은 공정에 대한 사전 지식이 필요하지 않아 복잡한 시스템에 적용이 용이하다. 그러나 실제 산업 공정의 경우 잘 제어된 시스템이기 때문에 정상운전 범위 내의 데이터가 주를 이루기 때문에 모델의 과적합 문제를 발생시키게 된다. 그리고 산업 현장에서는 공정의 수정이나 운전 시스템의 변화가 발생하는데, 이 경우 변화된 프로세스의 데이터를 충분히 얻어야 한다는 문제가 있다. 따라서 데이터 기반 모델링을 실제 화학 산업 공정에 적용하기 위해서는 앞서 언급한 문제점들을 해결할 수 있는 적응 전략이 필요하다.
이러한 관점을 기반으로 본 논문은 실제 화학 산업 공정에 데이터 기반 모델링 과정에서 발생하는 문제점들을 해결하기 위한 효과적이고 강건한 적응전략을 제시한다. 먼저 피셔-트롭쉬 마이크로채널 반응기의 촉매 충전 비율을 최적화하는 데 필요한 데이터의 수를 줄이기 위해 엔벨로프 베이지안 최적화를 적용하는 방법을 제시하였다. 이 때, 단일 채널 반응기와 4-채널 반응기의 최적화 차원이 달라지는 것을 해결하기 위해 엔벨로프 베이지안 최적화 방법론을 수정하여 적용하였다. 제안한 최적화 방법론은 기존 베이지안 최적화에 비해 최적점에 도달하는 데 필요한 데이터 수가 적을 뿐 아니라 최적화 범위가 달라지더라도 강건한 최적화 성능을 보였다.
둘째로, 제일 원리 모델링과 데이터 기반 모델링을 결합한 하이브리드 모델링 기법을 제안하여 산업 공정의 데이터 불균형 및 샘플링 빈도 차이로 발생하는 문제를 해결하였다. LSTM과 제일 원리 모델을 결합하여 프로세스 내의 단량체 조성을 예측 진행하였다. 제안한 하이브리드 모델을 공정에 대한 사전 지식을 데이터 기반 모델링에 결합함으로써 모델의 일반화 성능을 높여 데이터 기반 모델링 보다 공정의 변화가 생겼을 때의 뛰어난 예측 성능을 보였다. 개발한 하이브리드 모델을 통해 샘플링 빈도 주기가 긴 스트림 내 단량체의 조성 값을 대체하여 굴절률 이상 감지 모델을 개발하였다. 개발한 이상 감지 모델은 기존 데이터만을 쓴 모델에 비해 높은 예측 정확도를 나타내었다.
본 논문은 실제 화학 산업 공정에 데이터 기반 모델링 적용시 발생하는 문제들인 새로운 프로세스에 대한 데이터 필요성과 데이터 불균형 및 샘플링 빈도 차이를 해결할 수 있는 강건한 적응 전략을 제시하였다. 제시한 적응 전략들을 여러 화학 공정에 적용하여 기존 방법론들 대비 제안한 방법론의 개선된 성능을 보여 주었다.

번역하기

화학 공정의 모델링은 시스템의 시뮬레이션과 최적화 그리고 제어를 하는 데 있어 필수적인 과정이다. 따라서 제일 원리 또는 데이터 기반 방법론을 이용하여 모델링을 하는 연구들이 진행...

목차 (Table of Contents)

Abstract i
1. Introduction 1
1.1 Research motivation 1
1.2 Research objectives 3
1.3 Outline of the thesis 5

Abstract i
1. Introduction 1
1.1 Research motivation 1
1.2 Research objectives 3
1.3 Outline of the thesis 5
2. Backgrounds and Preliminaries 7
2.1 Bayesian optimization 7
2.1.1 Gaussian process regression 9
2.1.2 Acquisition function 10
2.2 Errors-in-variables model 11
3. Transfer Learning Approach for Optimization of Catalyst Packing Ratio during Scale-Up of Microchannel Reactor 16
3.1 Introduction 16
3.2 Reactor modeling 20
3.2.1 Fischer-Tropsch reaction kinetics 20
3.2.2 Microchannel reactor model 23
3.2.3 Model geometry 26
3.3 Optimization scheme 31
3.3.1 Formulation of optimization problem 31
3.3.2 Computational fluid dynamics-enveloped Bayesian optimization 33
3.4 Simulation conditions and setup 41
3.4.1 Simulation conditions 41
3.4.2 Simulation setup 42
3.4.3 Optimization setup 44
3.5 Results and discussion 46
3.5.1 CFD model validation using short-channel reactor 46
3.5.2 Optimization of 4-channel reactor using CFD-EBO 52
3.5.3 Changes in catalyst packing ratio range 64
4. Hybrid Modeling Approach for Concentration and Fault Prediction in Terpolymerization Process 72
4.1 Introduction 72
4.2 Process description 75
4.3 Data preprocessing 78
4.4 Proposed hybrid modeling approach 80
4.4.1 First-principles model 82
4.4.2 Data-driven model 89
4.4.3 Simulation using hybrid model 99
4.5 Refractive index fault detection 112
5. Concluding remarks 118
5.1 Conclusions 118
5.2 Future work 119
Bibliography 121

참고문헌 (Reference)

1. Collaborative hyperparameter tuning, M. Brendel, B. Kégl and, R. Bardenet, M. Sebag, International Conference on Machine Learning, pp. 199– 207, OMLR, , 2013

2. Mechanisms of catalyst deactivation, C. H. Bartholomew, Applied Catalysis A: General, vol. 212, no. 1-2, pp. 17–60, , 2001

3. Sensitivity analysis for chemical models, S. Tarantola and, A. Saltelli, M. Ratto, F. Campolongo, vol. 105, no. 7, pp. 2811–2828, , 2005

4. Trends in computer-aided process modeling, W. Marquardt, Computers & Chemical Engineering, vol. 20, no. 6-7, pp. 591–609, , 1996

5. A bayesian study of the error-in-variables model, P. M. Reilly and, H. Patino-Lea1, Technometrics, vol. 23, no. 3, pp. 221–231, , 1981

6. Evaluation of the terpolymer composition equation, D. J. Kahn and, H. H. Horowitz, vol. 54, no. 160, pp. 363–374, , 1961

7. Recent trends on hybrid modeling for industry 4.0, J. Sansana, L. H. Chiang and, Z. Wang, R. Rendall, I. Castillo, M. S. Reis, M. N. Joswiak, vol. 151, p. 107365,, , 2021

8. Copolymerizationthe composition distribution curve, I. Skeist, vol. 68, no. 9, pp. 1781–1784, , 1946

9. Google vizierA service for black-box optimization in, S. Moitra, D. Sculley, G. Kochanski, B. Solnik, J. Karro and, D. Golovin, Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pp. 1487–1495, , 2017

10. A survey of predictive modeling on imbalanced domains, R. P. Ribeiro, P. Branco, L. Torgo and, ACM Computing Surveys, vol. 49, no. 2, pp. 1–50, , 2016