벌점 부분최소자승법을 이용한 분류방법 = A new classification method using penalized partial least squares

다국어 초록 (Multilingual Abstract)

Classification is to generate a rule of classifying objects into several categories based on the learning sample. Good classification model should classify new objects with low misclassification error. Many types of classification methods have been developed including logistic regression, discriminant analysis and tree. This paper presents a new classification method using penalized partial least squares. Penalized partial least squares can make the model more robust and remedy multicollinearity problem. This paper compares the proposed method with logistic regression and PCA based discriminant analysis by some real and artificial data. It is concluded that the new method has better power as compared with other methods.

국문 초록 (Abstract)

분류분석은 학습표본으로부터 분류규칙을 도출한 후 새로운 표본에 적용하여 특정 범주로 분류하는 방법이다. 데이터의 복잡성에 따라 다양한 분류분석 방법이 개발되어 왔지만, 데이터 차원이 높고 변수간 상관성이 높은 경우 정확하게 분류하는 것은 쉽지 않다. 본 연구에서는 데이터차원이 상대적으로 높고 변수간 상관성이 높을 때 강건한 분류방법을 제안하고자 한다. 부분최소자승법은 연속형데이터에 사용되는 기법으로서 고차원이면서 독립변수간 상관성이 높을 때 예측력이 높은 통계기법으로 알려져 있는 다변량 분석기법이다. 벌점 부분최소자승법을 이용한 분류방법을 실제데이터와 시뮬레이션을 적용하여 성능을 비교하고자 한다.

참고문헌 (Reference)

1 이제영, "서포트 벡터 머신 알고리즘을 활용한 연속형 데이터의 다중인자 차원축소방법 적용" 한국데이터정보과학회 21 (21): 1271-1280, 2010

2 전치혁, "공학응용통계(개정판)" 홍릉과학출판사 2004

3 Nguyen, D, "Tumor classification by partial least squares using microarray gene expression data" 18 : 39-50, 2002

4 Wold, S., "The collinearity problem in linear regression. The Partial Least Squares (PLS) approach to generalized inverses" 5 : 735-743, 1984

5 Zou, H., "Sparsep principal component analysis" 15 : 265-286, 2006

6 Mallet, Y., "Recent developments in discriminant analysis on high dimensional spectral data" 35 : 157-173, 1996

7 Kramer, N., "Penalized Partial Least Squares with applications to Bspline transformations and functional data" 94 : 60-69, 2008

8 Geldadi, P, "Partial least-squares regression: A tutorial" 185 : 1-17, 1986

9 Barker, M, "Partial least squares for discrimination" 17 : 166-173, 2003

10 Wold, S., "PLS-regression: A basic tool of chemometrics" 58 : 109-130, 2001

11 Preda, C., "PLS classification of functional data" 22 : 223-235, 2007

12 McCullagh, P, "Generalized linear models, second edition" Chapman and Hall/CRC 1989

13 Kemsley, E. K, "Discriminant analysis of high-dimensional data: A comparison of principal components analysis and partial least squares data reduction methods" 33 : 47-61, 1996

14 Berger, R, "Comparison of the Gompertz and logistic equations to describe plant disease progress" 71 : 716-719, 1981

15 Fort, G, "Classification using partial least squares with penalized logistic regression" 21 : 1104-1111, 2005