사전 정의문의 구문패턴에 기반한 상위어 판별규칙 학습 = Learning of Hypernym Identification Rules based on Syntactic Patterns in Definition Sentences of Dictionaries

국문 초록 (Abstract)

최근 자연언어처리 시스템의 처리능력이 높아지고 다양한 응용분야에 자연언어처리 시스템이 적용됨에 따라 광범위한 어휘 지식베이스의 중요성이 과거보다 더 강조되고 있다. 특히 기계번역, 정보검색, 단어의 의미 중의성 해소등과 같은 응용분야에서 다양한 추론과정에 사용될 수 있는 의미계층구조 즉, 시소러스 구축에 대한 관심이 날로 증가하고 있다.
광범위한 시소러스를 구축하는 작업은 시간과 비용을 많이 소모하는 작업이기 때문에 이미 구축된 기계가독형사전(machine readable dictionary)을 이용하여 이것을 반자동 혹은 자동으로 구축하는 것이 효과적인 방법이다. 단어의 상위개념을 추출하기 위해서 기계가독형사전의 단어 정의문장을 이용하는 대부분의 방법들은 사람에 의해 수집되고 작성된 어휘패턴을 사용하였다. 이 방법은 사람이 패턴을 수집하는 데 드는 비용이 크다는 단점이 있고, 같은 의미를 지닌 다양한 어휘 표현이 존재한다는 자연언어의 특성을 고려해 볼 때, 사람이 광범위한 어휘패턴을 수집하고 작성하기가 매우 어렵다는 문제를 가지고 있다.
이러한 문제를 해결하기 위해서 본 논문에서는 사전 정의문장에서 상위어를 판별하는데 사용되는 규칙을 어휘를 배제한 구문적 특징만 이용하여 기계학습함으로써, 기존에 사용되었던 어휘 패턴의 지나친 어휘 의존성으로 인한 낮은 커버리지 및 패턴 수집의 문제를 해결한다. 또한, 패턴을 수집하는 비용을 줄이면서 대량의 자료를 학습할 수 있는 방법을 제안하며 학습된 상위어 추출 규칙을 이용하여 확장된 한국어 시소러스의 실효성을 검증하기 위하여 문서자동요약에서 주제어를 추출하는데 적용하였다.
명사의 정의문장에서 상위어가 발생하는 패턴은 복잡하고 다양한 어휘 패턴을 고려하지 않고 구문 패턴만을 이용하여도 해당 명사의 상위어를 판별하는데 충분하며, 어휘 정보에 의존하지 않는 순수 구문적 특성이 상위어 판별 능력을 가지고 있음을 알 수 있다. 이런 판별력을 가지는 구문적 특성으로는 상위어의 기능어 품사, 상위어가 문장에 나타난 위치, 그리고 상위어의 문맥에 해당하는 주변 어절들의 정보이다. 여기서 상위어의 문맥의 정보로는 정의문장에서 어절들의 문법적인 역할을 결정하는 해당 어절의 기능어 품사들이다. 또한, 상위어의 문맥의 범위는 상위어 발생에 영향을 미치는 문법적인 요소와의 거리가 평균 1.32개 어절이 떨어져 있으므로 상위어를 중심으로 앞뒤 각각 두 어절로 그 범위를 한정한다.
제안한 방법으로 기계학습된 규칙들을 상위어 자동추출과정에 적용한 결과 기존 연구에서 제시한 어휘 패턴의 성능보다 우수하였으며 한국어 시소러스 확장을 위한 상위어 추출에도 효과적으로 적용될 수 있다. 상위어를 판별해내는 문제를 사람이 아닌 기계를 통해 해결하려는 접근방법이 사람에 의해 만들어진 어휘패턴을 이용한 접근방법에 경쟁력 있는 대안이 될 수 있으리라 기대된다.

다국어 초록 (Multilingual Abstract)

As the natural language processing (NLP) systems became large and applied to wide variety of application domains, the need for a broad-coverage lexical knowledge-base has increased more than ever before. In various applications such as machine translation, information retrieval, and word sense disambiguation lexical knowledge-base has been used. A thesaurus, as one of these lexical knowledge-bases, mainly represents a taxonomic relationship between nouns. However, because building broad-coverage thesauri is a very costly and time-consuming job, they are not readily available and often too general to be applied to a specific domain.
The work presented here is an attempt to alleviate this problem by devising a new method for extending a thesaurus automatically using taxonomic information extracted from a machine readable dictionary MRD).
Most approaches for extracting hypernyms of a noun from the definition in an MRD rely on the lexical patterns compiled by human experts. Not only these method require high cost for compiling lexical patterns but also it is very difficult for human experts to complile a set of lexical patterns with a broad-coverage, because, in natural languages, there are various different expressions which represent the same concept. Accordingly the applicable scope of a set of lexical patterns compiled by human is very limited.
To overcome the drawbacks of human-compiled lexical patterns, we use part-of-speech (POS) patterns only except lexical information and try to induce these patterns automatically using a small bootstrapping thesaurus and machine learning methods. As a result, we can improve the coverage of patterns without lexical information, and cut down the cost of acquiring patterns. To prove the learned rule for extracting hypernyms effectiveness, we apply them to text summarization.
Since syntactic patterns have deterministic power to identify hypernym, the method of using only syntactic patterns is enough to identify hypernyms in the definition sentence without considering lexical information which is complex and various. These syntactic features are POS of function word of hypernyms, location of hypernyms in the definition sentence, and the contexts of hypernyms. We choose POS of function word of word-phrase around hypernyms as context information, and limit the range of context to two word-phrases rounding hypernyms.
For extracting hypernyms, we propose new patterns which are learned using Part-Of-Speech patterns only. Our experiment shows that the classification accuracy of syntactic patterns is better than that of lexical patterns.
We found by experiments that syntactic patterns on identifying hypernyms from an MRD could be adopted with avoiding lexical or domain dependency and outperforming lexical patterns.

목차 (Table of Contents)

• 1. 서론 = 1
• 가. 연구배경 = 1
• 나. 연구 목적 = 4
• 다. 연구 내용 = 5
• 라. 논문의 구성 = 6
• 2. 관련 연구 = 7
• 가. 시소러스 자동 확장 = 7
• 1) 단어의 통계적 분포 기반 = 7
• 2) 패턴 추출과 매칭 기반 = 7
• 3) 사전의 정의문장 기반 = 8
• 나. 한국어 명사의 상위어 자동 추출 = 10
• 1) 용어 정의 = 11
• 2) 사전의 단어 정의문장의 구조 = 12
• 3) 상위어 자동 추출 방법 = 14
• 다. 한국어 명사의 상위어 자동 추출 방법의 문제점 = 17
• 1) 정의 문장의 구성요소 판별의 문제 = 17
• 2) 상위어 판별을 위한 패턴 수집 방법의 문제 = 21
• 3. 구문적 특징을 이용한 상위어 추출 = 23
• 가. 상위어가 발생하는 구문적 특징 = 23
• 1) 상위어가 발생하는 위치 = 23
• 2) 상위어의 기능어 품사 = 25
• 3) 상위어의 문맥 = 27
• 4. 상위어 추출규칙 기계학습 = 36
• 가. 결정트리(Decision tree) = 36
• 나. 상위어 판별 문제 정의 = 37
• 다. 상위어 판별규칙 학습시스템 구성도 = 39
• 라. 학습 데이터 생성 = 40
• 마. 학습을 위한 특징 벡터 추출 = 42
• 바. C4.5를 이용한 기계학습 = 44
• 사. 상위어 판별 예제 = 46
• 5. 어휘 패턴 학습 = 49
• 가. 학습 데이터 생성 = 50
• 나. 패턴 학습 및 생성 = 50
• 1) 편집거리 계산 = 50
• 2) 패턴 생성 = 53
• 6. 실험 및 평가 = 55
• 가. 실험 자료 = 55
• 나. 실험 및 평가 방법 = 56
• 1) 실험 방법 = 56
• 2) 평가 방법 = 58
• 다. 실험 결과 = 59
• 1) 구문 패턴만을 이용한 기계학습 = 59
• 2) 기존 연구와의 비교 = 61
• 3) 어휘패턴 학습 결과 = 63
• 7. 확장된 한국어 시소러스의 적용 = 65
• 가. 시소러스를 이용한 문서자동요약 = 65
• 1) 문서자동요약에서 시소러스를 이용한 방법의 문제점 = 65
• 나. 확장된 시소러스를 이용한 문서자동요약 = 65
• 1) 시소러스 확장 = 66
• 2) 시소러스를 이용한 주제어 선정 = 66
• 3) 주제어 기반한 문서자동요약 = 68
• 다. 실험결과 = 69
• 1) 실험자료 = 69
• 2) 시소러스를 이용한 주제어 선정 과정 = 71
• 3) 실험 분석 및 평가 = 73
• 8. 결론 = 76
• 가. 연구의 의의 및 가치 = 76
• 나. 연구내용 = 77
• 다. 응용분야 = 79