한국어 형태소 분석과 품사 부착을 위한 확률 모형 = Probabilistic models for korean morphological analysis and part-of-speech tagging

다국어 초록 (Multilingual Abstract)

This paper proposes probabilistic models for Korean morphological analysis and part-of-speech tagging, which are the most fundamental problems in natural language processing.
Contrary to the previous morphological analyzers that depend on manually constructed linguistic knowledge, the proposed one can fully automatically acquire the linguistic knowledge from annotated corpora (e.g. part-of-speech tagged corpora).
Besides, without any modification of the system, it can be easily applied to other corpora having different tagsets and annotation guidelines.

This paper presents four probabilistic models for morphological analysis that are based on Korean linguistic units (such as Eojeol, morpheme, and syllable) and substring.
The Eojeol-unit model and the syllable-unit model compensate the previous methods that only depend on morpheme-unit analysis.
The Eojeol-unit model is very simple and highly efficient, and also contributes the improvement of precision.
The syllable-unit model is robust to the unknown-word problem and shows high precision.
This paper describes the models and presents the experimental results on three corpora with a wide range of conditions.
Through the experiments, the proposed system achieved comparable and improved performances with the previous systems.

The proposed part-of-speech models are based on the Markov model and the maximum entropy model, which are the most representative probabilistic models.
They consist of the morphological analysis model and the Eojeol transition model.
By the morphological analysis model, the system can consider lexical forms.
By the Eojeol transition model, the system can consider Eojeol-unit context.
This paper proposes various tagging models according to the contexts used in the Eojeol transition model.
Through the experiments, the second-order Markov model shows the best performance among the other models including the previous one.

국문 초록 (Abstract)

본 논문은 자연어 처리의 가장 기본적인 단계인 형태론의 두 가지 문제인 형태소 분석과 품사 부착을 위한 확률적 모형을 제안한다.
수작업으로 구축된 언어 지식에 의존하는 기존의 연구와는 달리 제안하는 형태소 분석 모형은 언어 지식을 품사 부착 말뭉치로부터 자동으로 획득할 수 있다.
또한 시스템을 수정하지 않고 다른 품사 집합과 분석 지침을 가진 말뭉치에 쉽게 적용할 수 있다.

형태소 분석을 위해 한국어의 언어 단위인 어절, 형태소, 음절과 부분 문자열에 기반한 네 가지 확률 모형을 제시한다.
어절과 음절 단위 모형은 형태소 단위 분석에만 의존했던 기존의 방법을 보완한다.
어절 단위 모형은 단순성과 높은 효율성을 보이며 정확도의 향상에도 기여한다.
음절 단위 모형은 미등록어 문제에 견고하고, 높은 정확성을 보인다.
본 논문은 제안하는 형태소 분석 모형에 대해 다양한 실험 조건에 따른 실험 결과를 제시하였고, 제시된 실험 결과는 기존의 형태소 분석기에 필적하거나 향상된 성능을 보였다.

제안하는 품사 부착 모형은 가장 대표적인 확률 모형인 마르코프 모형과 최대 엔트로피 모형에 기반하며
형태소 분석 모형과 어절 전이 모형으로 이루어져 있다.
제안하는 방법은 형태소 분석 모형에 의해 표층형을 고려할 수 있으며, 어절 전이 모형에 의해 어절 단위의 문맥을 고려할 수 있다.
본 논문은 어절 전이 모형에 사용된 문맥에 따라 다양한 품사 부착 모형을 제안하고 있다.
실험을 통하여, 2차 마르코프 모형에 기반한 품사 부착 모형이 기존 모형을 포함한 다른 모형 가운데 가장 높은 성능을 보였다.