일반 선형 모형에 대한 공분산 행렬의 비교

남상아,이근백,Nam, Sang Ah,Lee, Keunbaik 한국통계학회 2017 응용통계연구 Vol.30 No.1

경시적 자료분석에서 공변량 효과를 추정할 때 반복 측정된 결과들의 상관성은 고려되어야 한다. 따라서 공분산 행렬을 모형화하는 것은 매우 중요하다. 그러나 공분산 행렬의 추정은 모수들의 수가 많고 추정된 공분산행렬이 양정치성을 만족해야 하므로 쉽지 않은 문제이다. 이러한 제한을 극복하기 위해, 공분산행렬의 모형화를 위한 여러가지 방법을 제안하였다: 자기회귀/이동평균/자기회귀-이동평균 구조를 각각 적용한 수정 콜레스키분해 (Pourahmadi, 1999), 이동평균 콜레스키분해 (Zhang과 Leng, 2012)와 자기회귀-이동평균 콜레스키 분해 (Lee 등, 2017) 이들 구조를 가지는 공분산 행렬의 특징을 비교연구하고자 한다. 이 세 가지 모형의 성능을 비교하기 위한 모의실험을 실시한다. In longitudinal data analysis, the serial correlation of repeated outcomes must be taken into account using covariance matrix. Modeling of the covariance matrix is important to estimate the effect of covariates properly. However, It is challenging because there are many parameters in the matrix and the estimated covariance matrix should be positive definite. To overcome the restrictions, several Cholesky decomposition approaches for the covariance matrix were proposed: modified autoregressive (AR), moving average (MA), ARMA Cholesky decompositions. In this paper we review them and compare the performance of the approaches using simulation studies.

영과잉 경시적 가산자료 분석을 위한 허들모형

진익태,이근백,Jin, Iktae,Lee, Keunbaik 한국통계학회 2014 응용통계연구 Vol.27 No.6

허들모형은 영이 과잉 가산자료를 분석하기 위해서 사용되어 왔다. 이 모형은 이산부분을 위한 로짓모형과 절삭된 가산부분을 위한 절삭된 포아송모형의 혼합모형이다. 이 논문에서 우리는 경시적 영과잉 가산자료를 분석하기 위해서 수정된 콜레스키 분해을 이용하여 일반적인 이분산성을 가지는 변량효과 공분산행렬을 제안한다. 수정된 콜레스키 분해는 변량효과 공분산행렬을 일반화자기상관 모수와 혁신분산모수로 분리되면, 이러한 모수들은 베이지안 일반화 선형모형을 통해 추정된다. 그리고 실제 자료분석을 통하여 설명한다. The Hurdle model can to analyze zero-inflated count data. This model is a mixed model of the logit model for a binary component and a truncated Poisson model of a truncated count component. We propose a new hurdle model with a general heterogeneous random effects covariance matrix to analyze longitudinal zero-inflated count data using modified Cholesky decomposition. This decomposition factors the random effects covariance matrix into generalized autoregressive parameters and innovation variance. The parameters are modeled using (generalized) linear models and estimated with a Bayesian method. We use these methods to carefully analyze a real dataset.

베이지안 다변량 선형 모형을 이용한 청소년 패널 데이터 분석

이인선,이근백 한국통계학회 2022 응용통계연구 Vol.35 No.6

다변량 경시적 자료 분석은 반복 측정된 자료에 존재하는 상관관계를 올바르게 추정하면서 자료를 분석해야 한다. 경시적 연구에서는 다변량 경시적 자료가 주로 생성되지만, 기존 통계적 모형은 대부분 단변량으로 분석되어 다변량 경시적 자료에 존재하는 복잡한 상관관계를 제대로 설명하지 못하게 된다. 따라서 본 논문에서는 복잡한 상관관계를 설명하기 위해 공분산 행렬을 모형화하는 다양한 방법에 대해 고찰한다. 그 중 수정된 콜레스키 분해, 수정된 콜레스키 블록분해와 초구분해를 살펴본다. 그리고 일반화 자기회귀모수 행렬이 가지는 희박성 문제를 해결하기 위해 베이지안 방법을 이용하여 청소년 패널 데이터를 분석한다. 청소년 패널 데이터는 다변량 경시적 자료이며, 반응 변수로는 학교 적응도, 학업 성취도, 휴대전화 의존도를 고려한다. 자기 상관 구조와 혁신 표준 편차 구조를 달리 가정하여 여러 모형을 비교한다. 가장 적합한 모형에 대해 학교 적응도와 학업 성취도에 대해 모든 설명 변수가 유의미하며, 휴대전화 의존도가 반응 변수일 때사교육 시간을 제외한 모든 설명 변수가 유의미한 것으로 나타난다.

고차원 데이터에서 공분산행렬의 추정에 대한 비교연구

이동혁,이재원,Lee, DongHyuk,Lee, Jae Won 한국통계학회 2013 응용통계연구 Vol.26 No.5

공분산 행렬은 다변량 통계분석에서 중요한 역할을 하고 있으며 전통적인 다변량 분석의 경우 표본 공분산 행렬이 참공분산 행렬의 추정량으로 주로 사용되었다. 하지만 변수의 수가 표본의 크기보다 훨씬 큰 고차원 데이터와 같은 경우에는 표본 공분산 행렬은 비정칙행렬이 되어 기존의 다변량 기법을 사용하는 데 적절하지 않을 수가 있다. 최근 이러한 문제점을 해결하기 위해 축소추정, 경계추정, 수정 콜레스키 분해 추정 등의 새로운 공분산 행렬의 추정량들이 제안되었다. 본 논문에서는 추정량들의 성능에 영향을 미칠 수 있는 여러 현실적인 상황들을 가정하여 모의실험을 통해 참공분산 행렬의 추정량들의 성능을 비교하였다. The covariance matrix is important in multivariate statistical analysis and a sample covariance matrix is used as an estimator of the covariance matrix. High dimensional data has a larger dimension than the sample size; therefore, the sample covariance matrix may not be suitable since it is known to perform poorly and event not invertible. A number of covariance matrix estimators have been recently proposed with three different approaches of shrinkage, thresholding, and modified Cholesky decomposition. We compare the performance of these newly proposed estimators in various situations.

다변량 경시적 자료 분석을 위한 공분산 행렬의 모형화 비교 연구

곽나영,이근백 한국통계학회 2020 응용통계연구 Vol.33 No.3

Repeated outcomes from the same subjects are referred to as longitudinal data. Analysis of the data requires different methods unlike cross-sectional data analysis. It is important to model the covariance matrix because the correlation between the repeated outcomes must be considered when estimating the effects of covariates on the mean response. However, the modeling of the covariance matrix is tricky because there are many parameters to be estimated, and the estimated covariance matrix should be positive definite. In this paper, we consider analysis of multivariate longitudinal data via two modeling methodologies for the covariance matrix for multivariate longitudinal data. Both methods describe serial correlations of multivariate longitudinal outcomes using a modified Cholesky decomposition. However, the two methods consider different decompositions to explain the correlation between simultaneous responses. The first method uses enhanced linear covariance models so that the covariance matrix satisfies a positive definiteness condition; in addition, and principal component analysis and maximization-minimization algorithm (MM algorithm) were used to estimate model parameters. The second method considers variance-correlation decomposition and hypersphere decomposition to model covariance matrix. Simulations are used to compare the performance of the two methodologies. 같은 개체로부터 반복 측정한 자료를 경시적 자료(longitudinal data)라고 한다. 이러한 자료를 분석하려면 흔히 사용되는 횡단 자료 분석과는 다른 분석 방법이 필요하다. 즉, 경시적 자료에서 공변량의 효과를 추정할 때에는 반복 측정된 결과 간의 상관성을 고려해야 하며, 따라서 공분산행렬을 모형화 하는 것이 매우 중요하다. 그러나 추정해야 할 모수가 많고, 추정된 공분산행렬이 양정치성을 만족해야 하므로 공분산 행렬의 모형화는 쉽지 않다. 특히 다변량 경시적 자료분석을 위한 공분산행렬의 모형화는 더욱더 심층적인 방법론을 사용해야 한다. 본 논문은 다변량 경시적 자료분석을 위한 공분산행렬을 모형화하기 위해 두 가지 방법론을 고찰한다. 두 방법 모두 수정된 콜레스키 분해(modified Cholesky decomposition)를 이용하여 시간에 따른 응답변수들의 상관관계를 설명하고 있다. 하지만 같은 시간에서 관측된 응답변수들간의 상관관계를 설명하는 방법이 다르다. 첫 번째 방법론에서는 향상된 선형 공분산 모형(enhanced linear covariance models)을 사용하여 공분산행렬이 양정치성을 만족하도록 한다. 두 번째 방법론에서는 분산-공분산 분해(variance-correlation decomposition)와 초구분해(hypersphere decomposition)을 이용하여 공분산 행렬을 모형화 한다. 이 두 방법론의 성능을 비교하고자 모의실험을 진행한다.

베이지안 다변량 선형모형의 비교 연구

김예지,이근백 한국데이터정보과학회 2022 한국데이터정보과학회지 Vol.33 No.2

다변량 경시적 자료는 같은 개체에서의 몇 개의 속성들이 반복 측정되어지는 자료이다. 따라서 단변량 경시적 자료와는 다르게 다변량 경시적 자료분석에서는 반복 측정되는 속성들 간의 복잡한 상관관계를 가지며, 이러한 상관관계를 설명하기 위한 공분산행렬의 모형화에 대한 연구가 이루어져야 한다. 이 논문에서 이러한 복잡한 상관관계를 설명하기 위한 자기회귀 구조를 가지는 공분산행렬에 대한 모형화 방법 중에 하나인 수정된 콜레스키 분해와 초구분해를 이용한 방법을 살펴보고, 자기회귀 구조의 성긴성 (sparseness)을 설명하기 위한 베이지안 모형을 또한 살펴본다. 그리고 다양한 상황에서의 모의실험을 통하여 베이지안 모형의 우수성을 살펴본다.

다변량 경시적 자료에서 공분산 행렬의 AR구조와 ARMA구조의 비교

윤단비(Danbi Yun),이근백(Keunbaik Lee) 한국데이터정보과학회 2020 한국데이터정보과학회지 Vol.31 No.5

다변량 경시적 자료에서 반복 측정된 자료들 사이에는 응답변수들 간의 세 가지 형태의 상관관계가 존재한다: 다른 시점에서 다른 반응변수들 간의 상관관계, 다른 시점에서의 동일한 반응변수들 간의 상관관계, 그리고 같은 시점에서의 반응변수들 간의 상관관계. 따라서 다변량 경시적 자료분석에서는 이러한 상관관계들을 모두 가지는 공분산행렬을 고려하여 모형화하는 것이 중요하다. 하지만 이러한 공분산행렬은 양정치성 (positive definiteness)을 만족해야 하고, 때로는 이분산성 (heteroge-neous)을 가질 수 있다. 또한 반복 측정 횟수가 증가함에 따라 공분산행렬의 모수의 수는 기하급수적으로 증가하여 추정하기가 쉽지 않다. 이 어려움들을 해결하기 위해 자기회귀 (autoregressive) 구조, 자기회귀-이동평균 (autoregressive-moving average) 구조를 가지는 공분산 행렬의 모형화 방법이 제안되었다. Lee 등 (2020)과 Lee 등 (2019)은 다변량 경시적 자료분석에서 각각 자기회귀 구조와 자기회귀-이동평균 구조의 공분산 행렬을 분해방법을 제안하였고, 또한 이러한 분석방법으로 추정된 공분산행렬은 항상 양정치성을 만족하고, 이분산성을 가질 수 있다. 본 논문에서는 이 두 방법을 모의실험을 통하여 서로 비교하고자 한다. In multivariate longitudinal data, there are three correlations: correlation within separate responses over time, cross-correlation between response at different times, and correlation between responses at each time point. Therefore, it is important to model the covariance matrix with the correlations. However, the covariance matrix for multivariate longitudinal data must be positive definite and the number of parameters in the covariance matrix increases exponentially as dimension increases. In order to solve the difficulties, the modeling of the covariance matrix with an autoregressive (AR) structure and an autoregressive moving average (ARMA) structure are proposed. Lee et al. (2020) proposed decomposition method assuming covariance matrix with autoregressive structure in multivariate longitudinal data analysis. Lee et al. (2019) extended Lee et al.’s (2020) method to accommodate long series of multivariate longitudinal data using autoregressive-moving average covariance matrix. In this paper, we compare these two methods through simulations.

다변량 선형모형을 이용한 노동패널자료 분석

서리브가(Rebecca Suh),이근백(Keunbaik Lee) 한국데이터정보과학회 2020 한국데이터정보과학회지 Vol.31 No.4

다변량 경시적 자료는 의학, 보건과학, 사회과학, 환경연구 등과 같은 많은 분야에서 측정된다. 이 자료는 시간에 따라 여러 개의 반응변수들이 반복적으로 측정되기 때문에 복잡한 상관관계를 가지고 있다. 즉 다른 시점에서의 동일한 반응변수들 간의 상관관계, 같은 시점에서의 서로 다른 반응변수들 간의 상관관계, 그리고 다른 시점에서의 서로 다른 반응변수들 간의 상관관계를 가지며, 이러한 복잡한 상관관계로 인해 다변량 경시적 자료에 대해 공분산행렬을 모형화하는 것은 단변량 경시적 자료분석에 비해 더 어렵다. 본 논문에서는 다변량 경시적 자료에 대한 공분산행렬을 모형화하는 것에 대한 여러 가지 접근법을 조사하고, 이 방법들 중에 해석이 용이한 Kim과 Zimmerman (2012)과 Lee 등 (2020)의 방법을 이용하여 실제 다변량 경시적 자료인 노동패널자료를 분석하고자 한다. Multivariate longitudinal data are measured in many areas, such as medicine, health science, social science, environmental research. The data have complex correlations because multiple response variables are measured repeatedly over time: correlation within separate responses over time, cross-correlation between response at different times, and correlation between responses at each time point. Thus, modeling covariance matrix for multivariate longitudinal data is more difficult than univariate longitudinal data analysis. In this paper, we will investigate various approaches of the modeling covariance matrix for multivariate longitudinal data, and analyze the actual multivariate longitudinal data, labor panel data, using methods such as Kim and Zimmerman (2012) and Lee et al. (2020), which are easy to interpret among these methods.