다중 레이블 데이터 분류를 위한 상호 정보 척도를 이용한 특징 선별 기법 = Using Mutual Information for Selecting Features in Multi-label Classification

다국어 초록 (Multilingual Abstract)

Lately multi-label data set occurs in many applications. However it is difficult to apply in machine learning and data mining fields. There are two reasons: One is that most of researches are focusing on the single-label problem and the other is that the previous methods do not account the characteristics of multi-label. Existing methods cannot be applied to multi-label data because most of feature selection methods have focused in single-label data. For applying existing method, there have been used label transformation methods. However label transformation may lead to information loss of data. In this paper, we propose feature selection method for multi-label data considering the dependency between labels. We experimented classification for demonstrating the superiority of proposed method. This shows that the proposed method is better than previous feature selection methods.

국문 초록 (Abstract)

최근 많은 응용에서 다중 레이블 데이터가 발생하고 있다. 하지만 이 데이터는 기존 기계 학습, 데이터 마이닝 분야의 방법 적용이 어렵다. 그 이유는 크게 두 가지로 기존 방법들이 단일 레이블 데이터에 초점을 맞추고 있다는 것과 다중 레이블 데이터의 특성을 반영하지 못하고 있다는 것이다. 대부분의 특징 선별 기법은 단일 레이블 데이터에 초점을 맞추고 있기 때문에 다중 레이블 데이터에는 기존 특징 선별 기법들을 적용할 수 없다. 다중 레이블 데이터에 특징 선별 기법을 적용하기 위해서 다중 레이블 데이터를 단일 레이블 데이터로 전환하는 방법들이 사용된다. 하지만 레이블 변환은 데이터 고유의 특성을 반영하지 못하고 정보 손실을 가져올 수 있다. 본 논문은 레이블과 레이블 사이의 연관성을 고려하여 다중 레이블 데이터에 바로 적용할 수 있는 특징 선별 기법을 제안한다. 제안하는 방법의 우수성을 보이기 위해 클래스 분류 실험을 하였다. 이를 통해 기존 특징 선별 기법들에 비해서 제안하는 기법의 성능이 우수하다는 것을 보였다.

목차 (Table of Contents)

• 요약
• Abstract
• 1. 서론
• 2. 관련 연구
• 3. 제안하는 방법론
• 4. 실험 결과 및 분석
• 5. 결론
• 참고문헌

참고문헌 (Reference)

1 R. Battiti, "Using Mutual Information for Selecting Features in Supervised Neural Net Learning" 5 (5): 537-550, 1994

2 K. Trohidis, "Multi-label Classification of Music into Emotions" 2008

3 G. Tsoumakas, "Multi-label Classification" 3 (3): 1-13, 2007

4 "Mulan: A Java Library for Multi-Label Learning"

5 G. Tsoumakas, "Mining Multi-label Data, In Data Mining and Knowledge Discovery" 2007

6 M. Zhang, "ML-KNN: A lazy learning approach to multi-label learning" 40 (40): 2038-2048, 2007

7 M. Rogati, "High-Performing Feature Selection for Text Classification" 2002

8 N. Kwak, "High-Performing Feature Selection for Text Classification" 24 (24): 1667-1671, 2002

9 J. G. Dy, "Feature Subset Selection and Order Identification for Unsupervised Learning" 247-254, 2000

10 G. Wang, "Feature Selection with Conditional Mutual Information MaxiMin in Text Categorization" 2004

11 M. Zhang, "Feature Selection for Multi-label Naive Bayes Classification" 179 (179): 3218-3229, 2009

12 G. Doquire, "Feature Selection for Multi-label Classification Problems" 6691 : 9-16, 2011

13 M. Dash, "Feature Selection for Classification" 1 (1): 131-156, 1997

14 H. Peng, "Feature Selection Based on Mutual Information: Criteria of Max-Dependency, Max- Relevance, and Min-Redundancy" 27 (27): 1226-1221, 2005

15 F. Fleuret, "Fast Binary Feature Selection with Conditional Mutual Information" 5 : 1531-1555, 2004

16 L. Yu, "Efficient Feature Selection via Analysis of Relevance and Redundancy" 5 : 1205-1224, 2004

17 W. Chen, "Document Transformation for Multi-label Feature Selection in Text Categorization" 451-456, 2007

18 M. Dash, "Consistency-based Search in Feature Selection" 151 (151): 155-176, 2003

19 J. Novovicova, "Conditional Mutual Information Based Feature Selection for Classification Task" 2007

20 W. Shang, "A Novel Feature Selection Algorithm for Text Categorization" 33 (33): 1-5, 2006

21 G. Brown, "A New Perspective for Information Theoretic Feature Selection" 2009

22 Y. Yang, "A Comparative Study on Feature Selection in Text Categorization" 1997