배깅, 랜덤 포레스트, 앙상블 SVM 비교 연구

국문 초록 (Abstract)

의학, 공업 등 다양한 분야에서 분류의 예측을 높이기 위한 많은 연구가 되고 있다. 그중 대표적으로 사용되는 앙상블 모델 중 배깅 나무와 랜덤 포레스트가 있지만, 분류에 관해 SVM도 많은 사용이 되고 있다.
일반적인 SVM이 아니라 SVM과 배깅을 이용한 앙상블 SVM을 사용하여 비교를 할 것이다.
앙상블 모델의 비교를 위해 배깅 나무, 랜덤 포레스트, 배깅을 이용한 SVM의 선형과 비선형 데이터에 관한 비교를 하였다.
변수 간의 상관성을 이용하여 4개의 변수를 생성하여 여러 경우의 시험 데이터를 생성하여 다양한 경우의 데이터 예측을 비교하게 되었다.
실제 데이터 Adult를 사용하여 실제의 경우에서 비교할 것이다.
모델들의 비교 방법으로는 정확도(Accuracy)와 표준오차(Standard error)를 이용하여 때에 따라 더 나은 모델을 제시할 수 있을지에 대하여 살펴보았다.

목차 (Table of Contents)

• 1. 서 론 ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 7
• 2. 방법론 ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 8
• 2.1 배깅(Bagging) ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 8
• 2.2 랜덤 포레스트(Random Forest) ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 9
• 2.3 앙상블 SVM (Ensemble SVM) ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 10
• 3. 모형 성능 비교 및 결과 ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 14
• 3.1 Simulation Data ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 14
• 3.2 모형 성능 비교 및 결과 ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 16
• 3.3 실제 데이터 분석 및 결과 ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 20
• 3.3.1 변수 설명 ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 21
• 3.3.2 분석 및 결과 ∙ ∙ ∙∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 22
• 4. 결 론 ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 23
• 참고문헌 ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ ∙ 24