다변량 분위수 회귀나무 모형에 대한 연구 = Multivariate quantile regression tree

다국어 초록 (Multilingual Abstract)

Quantile regression models provide a variety of useful statistical information by estimating the conditional quantile function of the response variable. However, the traditional linear quantile regression model can lead to the distorted and incorrect results when analysing real data having a nonlinear relationship between the explanatory variables and the response variables. Furthermore, as the complexity of the data increases, it is required to analyse multiple response variables simultaneously with more sophisticated interpretations. For such reasons, we propose a multivariate quantile regression tree model. In this paper, a new split variable selection algorithm is suggested for a multivariate regression tree model. This algorithm can select the split variable more accurately than the previous method without significant selection bias. We investigate the performance of our proposed method with both simulation and real data studies.

국문 초록 (Abstract)

분위수 회귀모형은 반응변수의 조건부 분포에 대하여 포괄적이고 유용한 통계적 정보를 제공한다. 그러나 많은 실제 자료는 설명변수와 반응변수가 비선형의 관계를 갖고 있어 전통적인 선형 분위수 회귀모형은 왜곡되고 잘못된 결과를 초래할 수 있다. 또한 자료의 복잡성이 증가하여 반응변수가 여러개인 다변량 자료의 분석에 대한 보다 정확한 예측과 더불어 풍부한 해석에 대한 요구가 증가하고 있다. 이러한 이유로 본 연구에서는 다변량 분위수 회귀나무 모형을 제안하였다. 본 연구에서는 기존의 다변량 회귀나무 모형의 분할변수 선택 알고리즘의 문제점을 지적하고 향상된 분할변수 선택 알고리즘을 제안하였다. 제안한 알고리즘은 합리적인 계산시간으로 적용 가능하며 분할변수 선택에서 편향발생의 문제를 갖지 않는 동시에 기존 방법보다 더 정확하게 분할변수를 선택할 수 있있다. 본 연구에서는 모의실험과 실증 예제를 통해 제안한 방법의 우수한 성능과 유용성을 확인하였다.

참고문헌 (Reference)

1 제레미아 알렉산더 리치, "한국의 세대 간 경제적 이동성 - 분위수회귀분석을 중심으로 -" 한국데이터정보과학회 25 (25): 715-725, 2014

2 심주용, "소지역 추정을 위한 M-분위수 커널회귀" 한국데이터정보과학회 23 (23): 749-756, 2012

3 Asuncion, A., "UCI machine learning repository"

4 Eo, SH., "Tree-structured mixed-effects regression modeling for longitudinal data" 23 : 740-760, 2014

5 Segal, M., "Tree-structured methods for longitudinal data" 87 : 407-418, 1992

6 Loh, W. Y., "Tree-structured classification via generalized discriminant analysis" 83 : 715-725, 1988

7 Liu Y., "Simultaneous multiple non-crossing quantile regression estimation using kernel constraints" 23 : 415-437, 2011

8 Loh, W. Y., "Regression tress with unbiased variable selection and interaction detection" 12 : 361-386, 2002

9 Loh, W. Y., "Regression trees for longitudinal and multiresponse data" 7 : 495-522, 2013

10 Koenker, R., "Regression quantiles" 46 : 33-50, 1978

11 Li, Y., "Quantile regression in reproducing kernel hilbert spaces" 102 : 255-268, 2007

12 Koenker, R., "Quantile regression" Cambridge University Press 2005

13 Koenker R., "Penalized triograms : total variation regularization for bivariate smoothing" 66 : 145-163, 2004

14 Chaudhuri, P., "Nonparametric estimation of conditional quantiles using quantile regression trees" 8 : 561-576, 2002

15 De’ath, G., "Mvpart: multivariate partitioning. R package version 1.6-0"

16 Hallin, M., "Local linear spatial quantile regression" 15 : 659-686, 2009

17 Yu, K., "Local linear quantile regression" 93 : 228-237, 1998

18 Loh, W. Y., "Improving the precision of classification trees" 3 : 1710-1737, 2009

19 Kim, H., "Classification trees with unbiased multiway splits" 96 : 589-604, 2011

20 Zhang, H., "Classification trees for multiple binary responses" 93 : 180-193, 1998

21 Breiman, L., "Classification and regression trees" Chapman & Hall 1984

22 Zhang, H., "A tree-based method for modeling a multivariate ordinal response" 1 : 169-, 2008