Weibull Variational Autoencoder for Remaining Useful Life Prediction

다국어 초록 (Multilingual Abstract)

Remaining useful life (RUL) prediction is a critical technology for preventing unexpected failures and reducing maintenance costs in modern industrial systems. Traditional model-based approaches, however, are constrained by the need for explicit mathematical modeling of degradation mechanisms, whereas data-driven methods often require large-scale datasets and suffer from limited interpretability. To address these limitations, this study proposes a Weibull Variational Autoencoder (WVAE). The WVAE is designed to learn probabilistic characteristics grounded in the Weibull distribution from historical failure data and to predict failure times accordingly. A composite loss function that integrates mean squared error (MSE) with negative log-likelihood is employed to jointly ensure predictive accuracy and distributional fidelity, while Monte Carlo Dropout–based inference is used to quantify predictive uncertainty and generate confidence intervals. Simulated datasets incorporating three representative failure types—infant mortality, random, and wear-out—together with multiple noise levels were constructed to reflect diverse system characteristics and realistic industrial conditions. Evaluation results show that, compared with several benchmark models, the WVAE produces predictions that remain statistically consistent with historical failure distributions and maintain stable performance even under high noise conditions. Moreover, by directly estimating the parameters of the Weibull distribution, the WVAE provides statistically interpretable predictions that can be readily trusted by domain experts.

국문 초록 (Abstract)

잔여수명 예측은 산업 시스템에서 예기치 않은 고장을 예방하고 유지보수 비용을 절감하기 위한 핵심 기술이다. 그러나 기존의 모델 기반 접근법은 열화 메커니즘에 대한 명시적 수학적 모델링이 필요하다는 한계가 있고, 데이터 기반 접근법은 대규모 데이터가 요구되거나 해석 가능성이 부족한 문제가 존재한다.
본 연구에서는 이러한 한계를 해결하기 위해 와이블 변분 오토인코더(Weibull Variational Autoencoder, WVAE)를 제안한다. WVAE는 고장 이력 데이터로부터 와이블 분포 기반의 확률적 특성을 학습하여 고장 시점을 예측하도록 설계되었다. 이를 위해 평균제곱오차와 음의 로그우도를 함께 고려한 복합 손실 함수를 활용하여 예측 정확도와 분포 적합도를 동시에 확보하였으며, 몬테카를로 드롭아웃 기법을 적용하여 예측의 불확실성을 정량화하고 신뢰구간을 산출하였다.
초기고장, 우발고장, 마모고장 등 세 가지 대표 고장 유형과 여러 수준의 잡음을 포함한 시뮬레이션 데이터를 구성하여 실제 산업 환경을 반영하였다. 평가 결과, WVAE는 여러 벤치마크 모델과 비교했을 때 실제 고장 분포와 통계적으로 일관된 예측을 제공할 뿐만 아니라, 높은 수준의 잡음 환경에서도 안정적인 예측 성능을 유지하는 것으로 확인되었다. 또한 와이블 분포의 모수를 직접 추정함으로써 도메인 전문가가 신뢰할 수 있는 통계적으로 해석 가능한 예측을 제공한다는 점에서 의의가 있다.

목차 (Table of Contents)

• Ⅰ. Introduction 1
• 1.1 Research Background and Motivation 1
• 1.2 Purpose and Contributions 2
• Ⅱ. Related Works 4
• 2.1 Comparison of Model-based and Data-driven RUL Prediction Methods 4
• 2.2 Summary of Existing Methods 6
• Ⅲ. Methodology 8
• 3.1 Variational Autoencoder 8
• 3.2 Variational Autoencoder for Probabilistic Non-Negative Matrix Factorization 10
• 3.3 Weibull Variational Autoencoder Based RUL Prediction 12
• 3.3.1 Proposed Framework 12
• 3.3.2 Loss Function 14
• 3.3.3 Data Preparation and Input Configuration 15
• 3.3.4 Uncertainty Quantification via Monte Carlo Dropout 16
• Ⅳ. Evaluation 18
• 4.1 Data Description 18
• 4.2 Evaluation Metrics 19
• 4.2.1 Prediction Interval Coverage Probability 20
• 4.2.2 Mean Prediction Interval Width 20
• 4.2.3 Continuous Ranked Probability Score 21
• 4.3 Benchmark Models 21
• 4.3.1 Long Short-Term Memory 21
• 4.3.2 One-Dimensional Convolutional Neural Network 22
• 4.3.3 Multilayer Perceptron 22
• 4.3.4 Variational Autoencoder 23
• 4.3.5 Probabilistic Non-Negative Matrix Factorization 23
• 4.4 Experimental Details 23
• 4.5 Results on Simulated Data 25
• 4.6 Computational Efficiency and Modeling Robustness in Comparison to PAE-NMF 35
• Ⅴ. Conclusion and Future Work 38
• References 39
• Abstract in Korean(국문요지) 44