n-gram 파티클을 이용한 베이지안 필터링 기법 = Bayesian Filtering Method using n-gram Particle

국문 초록 (Abstract)

베이지안 필터링은 관측데이터와 연관된 확률을 이용하여 관찰된 데이터를 설명할 수 있는 은닉 변수를 설정하여 마코프 연쇄를 따르는 은닉 변수의 값을 추정하는 모델로 칼만 필터나 파티클 필터등의 방법이 대표적이다. 본 논문에서는 대담 형식으로 구성된 데이터를 임의보행 확률과정을 따르는 시계열 데이터로 간주하고, 이야기 흐름의 전환이 마코프 연쇄에 의해 결정된다고 가정하여 베이지안 필터링기법을 이용한 대화 분석 기법을 제시하였다. 제안한 방법론은 n-gram 언어모델과 베이지안 필터링 기법을 결합하여 말뭉치로부터 n-gram 언어모델을 구축하여 이를 초기 분포로 이용하고, 이를 파티클로 이용하여 이야기 흐름의 전환을 예측하게 된다. 일반적으로 언어 데이터는 그 특성상 베이지안 필터링 기법의 폭넓은 적용이 어려운데 본 논문에서 제시한 n-gram 언어모델과 베이지안 필터링 기법을 결합을 통해서 언어처리에 있어서 베이지안 필터링 기법의 보다 넓은 적용이 가능할 것으로 기대된다.

다국어 초록 (Multilingual Abstract)

Bayesian filtering is a general probabilistic approach for estimating an unknown probability density function recursively over time using incoming measurements and a mathematical process model. Kalman filter and particle filters are the typical applications of it. We propose the n-gram filtering method to detect the conversational humor in spontaneous dialogue. This spontaneous dialogue is regarded as a kind of time series data which follows random walk process. The proposed method detects the conversational humor using the n-gram particle filter. The proposal distribution of n-gram particle filtering is selected by the n-gram language model. We expect that n-gram filtering methods provide very efficient way to use the sequential and temporal information in language data such as dialogue, storytelling and so on.

목차 (Table of Contents)

• 요약
• Abstract
• 1. 서론
• 2. n-gram을 이용한 베이지안 필터링
• 3. 하이퍼그래프 언어모델
• 4. 실험 및 결과
• 5. 결론 및 토의
• 참고문헌

참고문헌 (Reference)

1 석호식, "단어 간 관계 패턴 학습을 통한 하이퍼네트워크 기반 자연 언어 문장 생성" 한국정보과학회 37 (37): 205-213, 2010

2 Y. Ephraim., "Revisiting Autoregressive Hidden Markov Modeling of Speech Signals" 2005

3 H. H. Bui., "Policy Recognition in the Abstract Hidden Markov Model" 2002

4 A. Doucet., "On sequential Monte Carlo sampling methods for Bayesian filtering" 10 (10): 197-208, 2000

5 R. Mihalcea., "Learning to laugh(automatically) : Computational models for humor recognition" 22 (22): 126-142, 2006

6 B. -T. Zhang., "Hypernetworks : A molecular evolutionary architecture for cognitive learning and memory" 3 (3): 49-63, 2008

7 A. Purandare., "Humor : Prosody analysis and automatic recognition for F*R*I*E*N*D*S" 208-215, 2006

8 H. -Y. Jang., "Context Analysis based on Hypergraph Language Model for Automatic Storytelling" 38 (38): 271-274, 2011

9 P. Graham, "Better Bayesian Filtering"

10 C. Burfoot., "Automatic satire detection: Are you having a laugh?" 161-164, 2009

11 F. Song., "A general language model for information retrieval" 316-321, 1999

12 M. S. Arulampalam., "A Tutorial on Particle Filters for Online Nonlinear/Non-Gaussian Bayesian Tracking" 50 : 174-188, 2002

13 J. M. Ponte., "A Language modeling approach to information retrieval" 275-281, 1998

14 S. Goldwater., "A Bayesian framework for word segmentation : Exploring the effects of context" 112 (112): 21-54, 2009