t-분포를 활용한 다변량 혼합 전문가 모형

국문 초록 (Abstract)

혼합 전문가 모형은 데이터 내 잠재 그룹에 따라 공변량과 반응 변수의 관계가 달라지는 이질성을 모델링하는 유용한 프레임워크이다. 그러나 기존 연구들은 주로 일변량 반응변수에 국한되어 있으며, 전문가 네트워크의 정규분포 가정으로 인해 이상치나 두꺼운 꼬리 분포에 취약하여 군집 할당 및 회귀 계수 추정의 정확도가 저하되는 한계를 가진다. 본 연구에서는 이러한 한계를 극복하고자, 전문가 네트워크에 t-분포를 적용한 강건한 다변량 혼합 전문가 모형(TMoE)을 제안한다. 제안 모형은 t-EIGEN 패밀리를 기반으로 공분산 행렬에 다양한 구조적 제약을 가해 추정해야 할 모수의 수를 줄이고, 효율적이고 안정적인 추정을 가능하게 한다. 또한 EM 알고리즘을 통해 모수를 안정적으로 추정하는 방법을 제시하였다. 모의실험과 실증 분석 결과, 제안하는 다변량 TMoE 모형은 이상치가 포함된 환경에서 자유도 모수를 조절하여 이상치의 영향을 효과적으로 완화하였으며, 기존 정규분포 기반 모형보다 우수한 예측 및 군집화 성능을 보임을 입증하였다.

다국어 초록 (Multilingual Abstract)

The Mixture of Experts model is a useful framework for modeling heterogeneity where the relationship between covariates and a response variable differs across latent groups. However, existing studies have primarily focused on univariate response variables, and the Gaussian assumption for expert networks makes these models vulnerable to outliers and heavy-tailed distributions, leading to reduced accuracy in cluster assignment and regression coefficient estimation. To overcome these limitations, this study proposes a robust multivariate Mixture of Experts model(TMoE) that applies the multivariate tdistribution to the expert networks. The proposed model is based on the t-EIGEN family, which reduces the number of parameters to be estimated by imposing various structural constraints on the covariance matrix, enabling efficient and stable estimation. Additionally, a stable parameter estimation method using the EM algorithm is presented. Simulation studies and empirical analyses demonstrate that the proposed TMoE model effectively mitigates the influence of outliers by adjusting the degrees of freedom parameter in contaminated environments. The results confirm that TMoE achieves superior predictive and clustering performance compared to existing Gaussian-based models.

목차 (Table of Contents)

• 제1장 서론 1
• 제2장 문헌연구 3
• 2.1 혼합 회귀 모형 3
• 2.2 Normal Mixture of Experts(NMoE) 4
• 2.3 T Mixture of Experts(TMoE) 6
• 제3장 t-분포를 활용한 다변량 혼합 전문가 모형 9
• 3.1 Gaussian Parsimonious Clustering Models(GPCM) 10
• 3.2 Multivariate TMoE 추정 방법 13
• 제4장 모의실험 17
• 4.1 다변량 TMoE 모형의 성능 검증 19
• 4.2 다변량 TMoE의 강건성 22
• 제5장 실증데이터분석 25
• 5.1 갑상선 질환 데이터셋 25
• 제6장 결론 및 논의점 31