Minor Class를 이용한 베이지안 Support Vector Data Description

국문 초록 (Abstract)

머신러닝에서 분류 모델은 분류 오류를 최소화하고 예측 정확도를 높이기 위한 모형이다. 그러나 실제 상황에서는 특정 클래스의 발생빈도가 매우 낮은 불균형 데이터가 많이 나타난다. 이러한 불균형 데이터는 효과적인 분류 모델을 학습시키기 어렵다는 문제점이 있다. 문제를 해결하기 위해 최근 많은 연구가 이루어지고 있으며, 이를 해결하기 위한 방법들은 데이터와 알고리즘 두 가지 측면의 접근법으로 크게 나눌 수 있다. 데이터 측면에서는 리샘플링을 통해 데이터 분포를 재조정하거나 다수 클래스의 관측값을 줄여서 문제를 해결한다. 알고리즘 측면에서는 불균형 데이터를 고려하여 분류 모델을 수정하거나 앙상블 기법을 활용하여 분류 결과를 결합한다. 이러한 방법들 중에서 SVDD (Support Vector Data Description)는 원-클래스 러닝 (one-class learning) 방법으로서 다수 클래스의 중심과 경계선을 구하는 방식으로 클래스를 식별한다. 그러나 SVDD를 포함한 대부분의 방법론은 모델이 갖는 불확실성을 고려하지 않아 신뢰하기 어렵다. 또는, SVDD에 있어 다수 클래스만 고려하여 다수 클래스의 중심과 경계선을 찾기 보다는 소수 클래스의 정보까지 이용한다면 불균형 데이터의 분류에 있어 더 정확성을 올릴 수 있다. 따라서 본 논문은 불균형 데이터를 분류하기 위해 소수 클래스의 데이터를 추가로 이용하고 불확실성을 고려한 베이지안 SVDD 방법을 제안한다. 제안하는 방법은 SVDD에서 소수 클래스의 데이터를 추가로 사용하고, 불확실성을 고려하기 위해 베이지안 접근법을 사용한다. 본 논문에서 제안하는 모형의 성능을 검증하기 위해 다양한 상황에서의 모의실험을 진행한다.

다국어 초록 (Multilingual Abstract)

In machine learning, a classification model aims to minimize classification errors and enhance prediction accuracy. However, there are often involve imbalanced data in real-world, where the occurrence frequency of a specific class is significantly low. Dealing with such imbalanced data poses challenges in developing effective classification models. A lot of research has been conducted recently to solve the problem, and methods to solve this problem can be broadly divided into two approaches : data and algorithm. On the data approach, the issue can be addressed by adjusting data distribution through resampling or reducing observations in major classe. On the algorithmic approach, modify classification models to account for unbalanced data or use ensemble techniques to combine classification results. Among these methods, Support Vector Data Description (SVDD) is a one-class learning approach that focuses on determining the center of major class by calculating the boundary line. However, most methods, including SVDD, do not consider the uncertainty of the model and therefore difficult to trust. In SVDD, the center and boundary of the major class are determined without accounting for information from the minor class. Additional use of data from the minor class can enhance accuracy in classifying imbalanced data. Therefore, this thesis proposes a bayesian SVDD method that additionally uses minor class data and and considers uncertainty to classify imbalanced data. The proposed method additionally uses minor class data from SVDD and uses a bayesian approach to consider uncertainty. To verify the performance of the method proposed in this thesis, simulation experiments are conducted in various situations.

목차 (Table of Contents)

• 1. 서론 1
• 2. 문헌연구 4
• 2.1. Support Vector Data Descripton (SVDD) 4
• 2.2. Bayesian Data Description (BDD) 8
• 2.3. 해밀토니안 몬테카를로 10
• 2.4. No-U-Turn Sampler (NUTS) 14
• 2.4.1. 모수 L제거 14
• 2.4.2. 모수 ϵ 조정 17
• 3. 방법론 20
• 3.1. 재모수화 21
• 3.2. 베이지안 추론 22
• 3.3. 클래스 분류 25
• 4. 모의실험 30
• 4.1. 데이터 생성 30
• 4.2. 평가 지표 34
• 4.3. 모의실험 결과 36
• 5. 결론 38
• 참고문헌 40