기계학습을 이용한 한국어 대화시스템 도메인 분류 = Machine Learning Based Domain Classification for Korean Dialog System

다국어 초록 (Multilingual Abstract)

Dialog system is becoming a new dominant interaction way between human and computer. It allows people to be provided with various services through natural language. The dialog system has a common structure of a pipeline consisting of several modules (e.g., speech recognition, natural language understanding, and dialog management). In this paper, we tackle a task of domain classification for the natural language understanding module by employing machine learning models such as convolutional neural network and random forest. For our dataset of seven service domains, we showed that the random forest model achieved the best performance (F1 score 0.97). As a future work, we will keep finding a better approach for domain classification by investigating other machine learning models.

국문 초록 (Abstract)

대화시스템은 인간과 컴퓨터의 상호작용에 새로운 패러다임이 되고 있다. 자연어로써 상호작용함으로써 인간은 보다 자연스럽고 편리하게 각종 서비스를 누릴 수 있게 되었다. 대화시스템의 구조는 일반적으로 음성 인식, 자연어 이해, 문맥 파악 등의 여러 모듈의 파이프라인으로 이뤄지는데, 본 연구에서는 자연어 이해 모듈의 도메인 분류 문제를 풀기 위해 convolutional neural network, random forest 등의 기계학습 모델을 비교하였다. 사람이 직접 태깅한 총 7개 서비스 도메인 데이터에 대하여 각 문장의 도메인을 분류하는 실험을 수행하였고 random forest 모델이 F1 score 0.97 이상으로 가장 높은 성능을 달성한 것을 보였다. 향후 다른 기계학습 모델들을 추가 실험함으로써 도메인 분류 성능 개선을 지속할 계획이다.

참고문헌 (Reference)

1 K. Simonyan, "Very Deep Convolutional Networks for Large-Scale Image Recognition" 1-14, 2015

2 X. Glorot, "Understanding the Difficulty of Training Deep Feedforward Neural Networks" 249-256, 2010

3 A. Jacovi, "Understanding Convolutional Neural Networks for Text Classification" 56-65, 2018

4 A. Bouaziz, "Short Text Classification Using Semantic Random Forest" 288-299, 2014

5 H. Kim, "Sentiment Classification Using Convolutional Neural Networks" 9 (9): 1-14, 2019

6 "Samsung Bixby"

7 S. Lai, "Recurrent Convolutional Neural Networks for Text Classification" 2267-2273, 2015

8 L. Breiman, "Random Forests" 45 (45): 5-32, 2001

9 정영섭, "Out-Of-Domain Detection Using Hierarchical Dirichlet Process" 한국컴퓨터정보학회 23 (23): 17-24, 2018

10 "Naver Clova"

11 J. R. Quilan, "Induction of Decision Trees" 1 (1): 81-106, 1986

12 A. Krizhevsky, "ImageNet Classification with Deep Convolutional Neural Networks" 1097-1105, 2012

13 C. Szegedy, "Going Deeper with Convolutions" 1-9, 2015

14 N. Srivastava, "Dropout: A Simple Way to Prevent Neural Networks from Overfitting" 15 : 1929-1958, 2014

15 K. He, "Deep Residual Learning for Image Recognition" 770-778, 2016

16 Y. Kim, "Convolutional Neural Networks for Sentence Classification" 1746-1751, 2014

17 S. Baker, "Cancer Hallmark Text Classification Using Convolutional Neural Networks" 1-9, 2016

18 B. Xu, "An Improved Random Forest Classifier for Text Categorization" 7 (7): 2913-2920, 2012

19 "Amazon Alexa"

20 D. P. Kingma, "Adam: A Method for Stochastic Optimization" 1-15, 2015

21 W. S. McCulloch, "A Logical Calculus of Ideas Immanent in Nervous Activity" 5 (5): 115-133, 1943