벌점화 부분최소제곱과 벌점화 서포트 벡터 머신의 성능 비교

국문 초록 (Abstract)

본 논문에서는 모의자료와 마이크로어레이 자료를 가지고 -벌점함수를 적용한 부분최소제곱과 서포트 벡터 머신의 변수선택 문제와 정분류율에 관해 살펴보았다.
기본적으로 부분최소제곱에서는 회귀와 분류문제에 대해 살펴보았고 서포트 벡터 머신에서는 비선형에서의 최적화문제와 분류자를 이용한 일 대 일과 일 대 다의 다중분류법에 대해 살펴보았다.
최적화 문제로 부분최소제곱법의 경우 벌점화 행렬 분해를 통해 -벌점함수를 최적화 시켰으며 서포트 벡터 머신의 경우는 목적함수에 들어가는 방향벡터를 1-놈인 형태로 최적화 시켰다.
고려한 모의 자료는 특정변수에 값이 큰 임의의 계수를 할당하여 생성된 자료로 벌점 적용 후 가중된 변수들이 선택되는 문제와 정분류율에 대해 각 분류방법의 조율모수를 조절해가며 살펴보았다.

다국어 초록 (Multilingual Abstract)

We applied -penalty to partial least squares and support vector machines and investigated the variable selection and accuracy.
Basically, we searched the PLS regression and classification and also the non-linear optimization problem for the SVM. And we searched the one-against-one and one-against-all method for multi-class classification by SVM.
The objective function of the penalized partial least squares is optimized using penalized matrix decomposition and for the penalized support vector machines, it is optimized by substituiting -norm direction vector for -norm direction vector.
We studied simulation data assigning large coefficients to certain variables and investigated variable selection and accuracy of two classification tools.
In case of SVM, if the value of the tuning parameter is less than 1, the accuracy is high. Otherwise in case that the tuning parameter is more than 1, the accuracy overally tends to be low.

목차 (Table of Contents)

• 제 1 장 서론 1
• 제 2 장 부분최소제곱 3
• 2.1 부분최소제곱 알고리즘 4
• 2.1.1 부분최소제곱 자료형태 4
• 2.1.2 부분최소제곱 최적화 문제 5
• 2.2 부분최소제곱 회귀 5
• 2.2.1 부분최소제곱2 알고리즘 7
• 2.2.2 부분최소제곱2 예측 8
• 2.3 부분최소제곱 분류문제 9
• 제 3 장 벌점화 부분최소제곱 13
• 3.1 벌점화 부분최소제곱 13
• 3.1.1 벌점함수 13
• 3.1.2 벌점화 부분최소제곱형태 14
• 3.2 벌점화 행렬 분해(PMD) 15
• 3.2.1 단일인자 PMD 16
• 3.2.2 다중인자 PMD 19
• 제 4 장 서포트 벡터 머신 22
• 4.1 서포트 벡터 머신을 이용한 분류 분석 22
• 4.1.1 서포트 벡터 머신 최적화문제 23
• 4.1.2 서포트 벡터 머신을 위한 변수선택 방법 28
• 4.2 다중 분류법 30
• 4.2.1 일 대 다 검정 31
• 4.2.2 일 대 일 검정 34
• 제 5 장 벌점화 서포트 벡터 머신 36
• 5.1 -서포트 벡터 머신을 이용한 분류 분석 36
• 제 6 장 실증자료와 모의 자료 분석 38
• 6.1 분석 목적 및 절차 38
• 6.2 자료 설명 38
• 6.3 분석 결과 39
• 6.3.1 모의 자료 분석 39
• 6.3.2 마이크로 어레이 자료 분석 45
• 제 7 장 결론 48
• 참고문헌 50
• 부 록 52
• ABSTRACT 56