CRM을 위한 은닉 마코프 모델과 유사도 검색을 사용한 시계열 데이터 예측

조영희(Young-Hee Cho),전진호(Jin-Ho Jeon),이계성(Gye-Sung Lee) 한국컴퓨터정보학회 2009 韓國컴퓨터情報學會論文誌 Vol.14 No.5

시계열의 예측에 대한 문제는 오랫동안 많은 연구자들의 연구의 대상이었으며 예측을 위한 많은 방법이 제안되었다. 본 논문에서는 은닉 마코프 모델(Hidden Markov Model)과 우도(likelihood)를 사용한 유사도 검색을 통하여 향후 시계열 데이터의 운행 방향을 예측하는 방법을 제안한다. 이전에 기록된 시계열 데이터에서 질의 시퀸스(sequence)와 유사한 부분을 검색하고 유사 부분의 서브 시퀸스를 사용하여 시계열을 예측하는 방법이다. 먼저 주어진 질의 시퀸스에 대한 은닉 마코프 모델을 작성한다. 그리고 시계열 데이터에서 순차적으로 일정 길이의 서브 시퀸스를 추출하고 추출된 서브 시퀸스와 작성된 은닉 마코프 모델과의 우도를 계산한다. 시계열 데이터로부터 추출된 서브 시퀸스 중에서 우도가 가장 높은 시퀸스를 유사 시퀸스로 결정하고 결정된 부분 이후의 값을 추출하여 질의 시퀸스 이후의 예측 값을 추정한다. 실험 결과 예측 값과 실제 값이 상당한 유사성을 나타내었다. 제안된 방법의 유효성은 코스피(KOSPI) 종합주가지수를 대상으로 실험하여 검증한다. Prediction problem of the time-series data has been a research issue for a long time among many researchers and a number of methods have been proposed in the literatures. In this paper, a method is proposed that similarities among time-series data are examined by use of Hidden Markov Model and Likelihood and future direction of the data movement is determined. Query sequence is modeled by Hidden Markov Modeling and then the model is examined over the pre-recorded time-series to find the subsequence which has the greatest similarity between the model and the extracted subsequence. The similarity is evaluated by likelihood. When the best subsequence is chosen, the next portion of the subsequence is used to predict the next phase of the data movement. A number of experiments with different parameters have been conducted to confirm the validity of the method. We used KOSPI to verify suggested method.

비음수 텐서 분해와 은닉 마코프 모델을 이용한 터널 환경에서의 음향 사고 검지 방법

김남균(Nam Kyun Kim),전광명(Kwang Myung Jeon),김홍국(Hong Kook Kim) 인문사회과학기술융합학회 2018 예술인문사회융합멀티미디어논문지 Vol.8 No.9

본 논문에서는 터널 환경에서 비음수 텐서분해와 가우시안 혼합을 갖는 은닉 마코프 모델을 사용한 사고 검지 시스템을 제안한다. 대부분의 터널 내 환경은 내재된 환경으로 인한 작은 사고들이 발생한다. 특히 터널 내에서 사고가 발생할 시, 2차, 3차 사고가 발생되어 큰 재해로 발전할 가능성이 높다. 주로 시각기반의 사고 검지 기법들이 많이 제안되어왔으나, 시야각 등의 문제로 오검지가 발생하는 단점이 존재한다. 이러한 시각기반의 검지 기법을 보완하기 위해 본 논문에 제안된 기법은 터널환경에서의 음향사고 검출의 정확도 개선을 위해 비음수 텐서분해와 가우시안 혼합모델(Gaussian mixture model, GMM) 기반의 은닉 마코프 모델(hidden Markov model, HMM)을 이용한다. 제안된 방법은 비음수 텐서 분해 기법에 활용되는 사고음향 모델과 잡음모델을 사용하여 사고음을 분리하고, 분리된 사고음을 기반으로 기 훈련된 GMM-HMM 기반의 음향모델을 기반으로 우도비 검증을 수행하여 사고 검지를 수행한다. 제안된 방법의 검지 정확도를 평가하기 위해 터널 내 환경잡음과 사고음을 합성하여 생성한 데이터를 생성하였고, 높은 정확도를 얻을 수 있었다. In this paper, we propose an acoustic event detection method in tunnels using non-negative tensor factorization (NTF) and hidden Markov model (HMM) applied to multi-channel audio signals. Incidents in tunnel are inherent to the system and occur unavoidably with known probability. Incidents can easily happen minor accidents and extend right through to major disaster. Most incident detection systems deploy visual incident detection (VID) systems that often cause false alarms due to various constraints such as night obstacles and a limit of viewing angle. To this end, the proposed method first tries to separate and detect every acoustic event, which is assumed to be an in-tunnel incident, from noisy acoustic signals by using an NTF technique. Then, maximum likelihood estimation using Gaussian mixture model (GMM)-HMMs is carried out to verify whether or not each detected event is an actual incident. Performance evaluation shows that the proposed method operates in real time and achieves high detection accuracy under simulated tunnel conditions.

은닉 마코프 모델을 이용한 시계열 데이터의 의미기반 패턴 매칭

조영희(Young-Hee Cho),전진호(Jin-Ho Jeon),이계성(Gye-Sung Lee) 한국콘텐츠학회 2008 한국콘텐츠학회논문지 Vol.8 No.5

시계열 데이터에서 패턴을 찾고 검색하는 문제는 여러 분야에서 오랫동안 관심을 가지고 연구되어 왔다. 본 논문은 시간의 흐름에 따라 값의 변화를 나타내는 시계열 형태의 주식 데이터에 적용할 수 있는 새로운 패턴 매칭 방법을 제안한다. 우선, 의미를 기반으로 패턴을 정의하고 정의된 패턴에 일치하는 데이터들을 추출하여 학습모델을 작성한다. 그리고 새로운 질의 시퀀스가 어떤 종류의 패턴과 일치하는가는 각 학습 모델과의 유사도를 측정하여 결정하게 된다. 학습 모델은 시계열을 잘 설명하는 것으로 알려진 은닉 마코프 모델을 사용하여 작성하였다. 실험 결과 은닉 마코프 모델의 특성을 사용하여 생성된 각 학습 모델은 주어진 의미를 잘 나타내는 패턴을 생성하였으며, 새로운 시퀀스가 주어졌을 때 일치하는 패턴에 따라서 시퀀스가 가진 의미를 파악할 수 있었다. Pattern matching and pattern searching in time series data have been active issues in a number of disciplines. This paper suggests a novel pattern matching technology which can be used in the field of stock market analysis as well as in forecasting stock market trend. First, we define conceptual patterns, and extract data forming each pattern from given time series, and then generate learning model using Hidden Markov Model. The results show that the context-based pattern matching makes the matching more accountable and the method would be effectively used in real world applications. This is because the pattern for new data sequence carries not only the matching itself but also a given context in which the data implies.

스마트폰 사용자의 이동경로 및 도착지 예측을 위한 다중스위치 은닉 마코프 모델

이상우(Sang-Woo Lee),허민오(Min-Oh Heo),장병탁(Byoung-Tak Zhang) 한국정보과학회 2013 정보과학회 컴퓨팅의 실제 논문지 Vol.19 No.6

기존에는 다양한 종류의 스마트폰 센서 정보에서 상위 개념의 사용자 문맥을 파악하기 위하여 위계적 모델이 흔히 사용되었다. 그러나 이러한 위계적 모델들은 추론을 하는 데 많은 계산 비용이 소모되며, 그 추론 결과 역시 정확하지 않다는 단점을 가지고 있었다. 이러한 제약을 극복하기 위해 본 논문에서는 일반적인 은닉 마코프 모델을 확장한 다중스위치 은닉 마코프 모델(mHMM)을 제안한다. mHMM은 이전 관측치와 현재 관측치에 동적 패턴에 따라 전이 행렬과 관측 행렬을 결정하는 다중스위치를 가진다. 본 논문에서는 응용의 예로, mHMM을 이동 경로 및 도착지 학습 문제에 적용하였다. 다양한 모바일 센서를 성공적으로 전처리하고 mHMM으로 관측치를 깔끔하게 표현함으로써, 주어진 문제를 위계적이지 않은 확률 그래프 모델로 간단하게 표현할 수 있었다. 본 논문에서는 제안된 모델과 다른 모델을 비교하여, 제안된 모델이 실제 문제를 해결하는 데 유용함을 보이고자 하였다. Hierarchical models are effective for inferring high-level context from low-level sensory data from mobile-phone users. However, hierarchical models in previous studies are hard to capture abrupt changes in sequential observations immediately and exactly. Here we propose a hidden Markov model that is augmented with multiple switches to capture and control the mode of the dynamical-system model based on the change types of states. In contrast to hierarchical models, the flat structure of this multiswitch HMM (mHMM) makes exact inference possible and achieves high prediction performance within the limitation of real-time computation. This compact representation could well work as we exploit heterogeneous mobile data successfully. On a small-scale yet real-life smartphone experiments, we demonstrate the successful use of mHMM for predicting the points of interest (POIs) of the mobile users and compare its performance to the standard HMM and the abstract HMM.

특징 변환과 은닉 마코프 모델을 이용한 팔 제스처 인식 시스템의 설계

허세경 ( Se Kyeong Heo ),신예슬 ( Ye Seul Shin ),김혜숙 ( Hyesuk Kim ),김인철 ( In Cheol Kim ) 한국정보처리학회 2013 정보처리학회논문지. 소프트웨어 및 데이터 공학 Vol.2 No.10

본 논문에서는 Kinect 센서를 이용한 팔 제스처 인식 시스템의 설계에 대해 소개한다. 제스처 인식을 위한 기존의 연구들에서는 동적 시간 왜곡(DTW)에서 은닉 마코프 모델(HMM)에 이르기까지 다양한 방법들이 적용되어 왔다. 본 논문에서 제안하는 제스처 인식 시스템은 Kinect 센서를 통해 얻을 수 있는 순차적인 팔 관절 위치 데이터로부터 각 제스처 별 고유한 은닉 마코프 모델을 학습한다. 동일한 제스처를 수행하더 라도 Kinect 센서에 포착되는 각 관절의 위치 좌표 값들은 팔의 길이와 방향에 따라 크게 달라질 수 있다는 문제점이 있다. 본 논문에서 제안 하는 시스템에서는 다양한 환경 조건에서도 높은 제스처 인식 성능을 얻기 위해, 팔 관절들의 좌표 값으로 구성된 특징 벡터를 팔 관절들 간의 각도 값으로 변환하는 특징 변환 과정을 수행한다. 또한, 본 시스템에서는 은닉 마코프 모델의 학습과 적용의 효율성을 높이기 위해, 고차원 실 수 관측 벡터들에 k-평균 군집화를 적용하여 이산 은닉 마코프 모델들을 위한 1차원 정수 시퀀스들을 구한다. 이와 같은 차원 축소와 이산화를 통해, 실시간 환경에서도 은닉 마코프 모델들을 효율적으로 제스처 인식에 이용할 수 있다. 끝으로, 서로 다른 두 가지 데이터 집합을 이용한 실험을 통해, 본 논문에서 제안한 시스템의 높은 인식 성능을 입증해 보인다. This paper presents the design of an arm gesture recognition system using Kinect sensor. A variety of methods have been proposed for gesture recognition, ranging from the use of Dynamic Time Warping(DTW) to Hidden Markov Models(HMM). Our system learns a unique HMM corresponding to each arm gesture from a set of sequential skeleton data. Whenever the same gesture is performed, the trajectory of each joint captured by Kinect sensor may much differ from the previous, depending on the length and/or the orientation of the subject`s arm. In order to obtain the robust performance independent of these conditions, the proposed system executes the feature transformation, in which the feature vectors of joint positions are transformed into those of angles between joints. To improve the computational efficiency for learning and using HMMs, our system also performs the k-means clustering to get one-dimensional integer sequences as inputs for discrete HMMs from high-dimensional real-number observation vectors. The dimension reduction and discretization can help our system use HMMs efficiently to recognize gestures in real-time environments. Finally, we demonstrate the recognition performance of our system through some experiments using two different datasets.

은닉 마코프 모형을 이용한 한강유역 수문학적 가뭄의 확률론적 평가

박예준,유지영,권현한,김태웅 한국수자원학회 2014 한국수자원학회논문집 Vol.47 No.5

지금까지 많은 연구를 통하여 제안된 다양한 가뭄지수들은 사전에 정의된 등급을 통하여 가뭄을 평가하기 때문에 가뭄현상에 내재된 불확실성을 고려하지 못하고 있다. 본 연구에서는 월 유출량 자료에 내재되어 있는 불확실성을 고려하기 위해 은닉 마코프 모형(HMM) 기반의 가뭄지수(HMDI)를 제안하고, 이를 이용하여 수문학적 가뭄에 대한 확률론적 평가를 수행하였다. WAMIS에서 제공하는 한강유역의 평창강과 남한강상류의 월평균 유출량 자료(1966∼2009)를 이용하여 3, 6, 12개월씩 누적시킨 후, HMM에 적용하여 은닉상태의 사후확률을 계산하였다. 연구방법의 검증을 위해 HMM을 이용하여 추정된 각 은닉상태 별 사후확률(HMDI)과 기준값에 의해 가뭄을 평가하는 방법 중 하나인 표준유출지수(SSI)와 비교를 하였다. 분석결과, 기존 가뭄지수(SSI)를 사용하였을 때는 하나의 지수로 특정 시점에서의 가뭄 상태를 판단하였지만, HMDI는 자료에 내재된 불확실성을 이용하여 가뭄의 상태를 분류하였고, 이는 특정 시점에서 가뭄 상태들이 나타날 확률로 표현되었다. 또한, 실제 가뭄사례와의 비교를 통해서 HMDI가 SSI에 비하여 가뭄에 대한 재현능력이 우수한 것으로 나타났다. Various drought indices developed from previous studies can not consider the inherent uncertainty of drought because they assess droughts using a pre-defined threshold. In this study, to consider inherent uncertainty embedded in monthly streamflow data, Hidden Markov Model(HMM) based drought index (HMDI) was proposed and then probabilistic assessment of hydrologic drought was performed using HMDI instead of using pre-defined threshold. Using monthly streamflow data(1966~2009) of Pyeongchang river and Upper Namhan river provided by Water Management Information System(WAMIS), applying the HMM after moving-averaging the data with 3, 6, 12 month windows, this study calculated the posterior probability of hidden state that becomes the HMDI. For verifying the method, this study compared the HMDI and Standardized Streamflow Index(SSI) which is one of drought indices using a pre-defined threshold. When using the SSI, only one value can be used as a criterion to determine the drought severity. However, the HMDI can classify the drought condition considering inherent uncertainty in observations and show the probability of each drought condition at a particular point in time. In addition, the comparison results based on actual drought events occurred near the basin indicated that the HMDI outperformed the SSI to represent the drought events.

광류와 표정 HMM에 의한 동영상으로부터의 실시간 얼굴표정 인식

전준철 ( Junchul Chun ),신기한 ( Gihan Shin ) 한국인터넷정보학회 2009 인터넷정보학회논문지 Vol.10 No.4

비전기반 인간컴퓨터 상호작용은 컴퓨터와 인간의 상호소통을 자연스럽게 제공하는 측면에서 과학과 산업분야에서 주목받는 연구 분야이다. 그러한 측면에서 얼굴표정인식에 의한 인간의 심리적 상태를 추론하는 기술은 중요한 이슈이다. 본 연구에서는 감성인식 HMM 모델과 광류에 기반한 얼굴 움직임 추적 방법을 이용하여 동영상으로부터 얼굴표정을 인식하는 새로운 방법을 제시하였다. 특히, 기존의 감성상태 변환을 설명하는 HMM 모델은 특정 표정상태 간의 전환 시 항상 중립 상태를 거치도록 설계되어 있다. 그러나 본 연구에서는 기존의 표정상태 전환 모델에 중간상태를 거치는 과정 없이 특정 표정 상태간의 변환이 가능한 확장된 HMM 모델을 제시한다. 동영상으로부터 얼굴의 특성정보를 추출하기위하여 탬플릿 매칭과 광류방법을 적용하였다. 광류에 의해 추적된 얼굴의 표정특성 정보는 얼굴표정인식을 위한 HMM의 매개변수 정보로 사용된다. 실험을 통하여 제안된 얼굴표정인식 방법이 실시간 얼굴 표정인식에 효과적임을 입증하였다. Vision-based Human computer interaction is an emerging field of science and industry to provide natural way to communicate with human and computer. In that sense, inferring the emotional state of the person based on the facial expression recognition is an important issue. In this paper, we present a novel approach to recognize facial expression from a sequence of input images using emotional specific HMM (Hidden Markov Model) and facial motion tracking based on optical flow. Conventionally, in the HMM which consists of basic emotional states, it is considered natural that transitions between emotions are imposed to pass through neutral state. However, in this work we propose an enhanced transition framework model which consists of transitions between each emotional state without passing through neutral state in addition to a traditional transition model. For the localization of facial features from video sequence we exploit template matching and optical flow. The facial feature displacements traced by the optical flow are used for input parameters to HMM for facial expression recognition. From the experiment, we can prove that the proposed framework can effectively recognize the facial expression in real time.

WSN환경에서 은닉 마코프 모텔 기반의 분산추론 기법 적용한 행위인지 알고리즘

김홍섭(Hong-Sop Kim),한만형(Man-Hyung Han),임거수(Geo-Su Yim) 한국컴퓨터정보학회 2009 한국컴퓨터정보학회 학술발표논문집 Vol.16 No.2

본 연구에서는 집이나 사무실과 같은 일상 공간에서 발생할 수 있는 연간의 일상생활행위 (ADL: Activities of Daily Living) 들을 인지하는 분산 모델을 제시한다. 사용자의 환경 정보, 위치 정보 및 행위 정보를 간단한 센서들이 부착된 가정용 기기들과 가구, 식기들을 통해 무선 센서 네트워크를 통해 수집하며 분석한다. 하지만 이와 같은 다양한 기기의 활용과 충분히 분석되어지지 않은 데이터들은 본 논문에서 제시하는 일상 환경에서 고차원의 ADL 모델을 구축하기 어렵게 한다. 그러나 ADL들이 생성하는 센서 데이터들과 센서 데이터들의 순서들은 어떤 행위가, 이루어지고 있는지 인지할 수 있도록 도와준다. 따라서 이 센서 데이터들의 순서를 특정 행위 패턴을 분석하는 데 활용하고, 이를 통해 분산 선형 시간 추론 알고리즘을 제안한다. 이 알고리즘은 센서 네트워크와 같은 소규모 시스템에서 행위를 인지하는 데 적절하다.

지화 인식을 위한 계층적 은닉 마코프 모델

권재홍(Jae-Hong Kwon),김태용(Tae-Yong Kim) 대한전자공학회 2015 전자공학회논문지 Vol.52 No.9

지화(finger language)는 수화(sign language)에 포함되며, 손의 제스쳐로 한글의 모음, 자음을 표현하는 언어 체계이다. 한글 지화는 총 31 제스쳐로 구성되어 있으며, 정확한 인식을 위해서는 하나의 제스쳐에 대해 학습 모델이 많이 필요로 하게 된다. 대량의 학습 모델이 존재할 경우, 입력 데이터는 많은 공간을 탐색하는데 시간을 소비하게 된다. 따라서 실시간 인식 시스템은 이러한 탐색 공간을 줄이는 것이 가장 중요한 문제로 인식되고 있다. 본 논문에서는 이러한 문제를 해결하기 위해 인식률 저하 없이 탐색 공간을 효율적으로 줄이는 계층적 HMM 구조를 제안하였다. 지화는 손목의 방향성에 따라 총 3개의 범주로 설정, 입력 데이터는 이 범주 안에서 모델을 검색하게 된다. 이러한 사전 분류를 진행하여 비슷한 한글 지화의 분별력을 확립하게 되며 탐색 공간 또한 효율적으로 관리되므로 실시간 인식 시스템에 적용 가능하다. 실험 결과, 제안된 방법은 일반적인 HMM 인식 방법보다 평균 3배 정도의 시간을 단축할 수 있있고, 비슷한 한글 지화 제스쳐에 대해 오인식 또한 감소하였다. The finger language is the part of the sign language, which is a language system that expresses vowels and consonants with hand gestures. Korean finger language has 31 gestures and each of them needs a lot of learning models for accurate recognition. If there exist mass learning models, it spends a lot of time to search. So a real-time awareness system concentrates on how to reduce search spaces. For solving these problems, this paper suggest a hierarchy HMM structure that reduces the exploration space effectively without decreasing recognition rate. The Korean finger language is divided into 3 categories according to the direction of a wrist, and a model can be searched within these categories. Pre-classification can discern a similar finger Korean language. And it makes a search space to be managed effectively. Therefore the proposed method can be applied on the real-time recognition system. Experimental results demonstrate that the proposed method can reduce the time about three times than general HMM recognition method.

구간 분할 및 HMM 기반 융합 모델에 의한 온라인 서명 검증

양동화(Dong Hwa Yang),이대종(Dae-Jong Lee),전명근(Myung-Geun Chun) 한국지능시스템학회 2005 한국지능시스템학회논문지 Vol.15 No.1

기존의 참조서명과 입력서명을 비교하는 방법 중 분절 단위 비교 방법은 전역적 방법과 점 단위 방법에 비하여 우수한 장점을 가지고 있다. 그러나 분절 단위 비교 방법은 인식률과 직접적인 관계가 있는 분절의 불안정 문제점이 있다. 본 연구에서는 분절 단위 비교 방법을 이용한 서명검증의 신뢰도를 향상시키기 위해 두 가지 형태의 모델을 구축하였다. 우선 기존에 사용된 구간 분할 매칭 방법을 사용하여 서명의 동적정보에 대한 매칭도를 산출하였다. 다음으로 서명의 정적정보를 균일하게 분할한 후 분할된 영역을 주성분 분석 기법에 의해 특징 벡터를 산출하고 HMM에 의해 서명간의 매칭도를 산출하였다. 최종 융합단계에서는 SVM 분류기에 의해 서명의 진위여부를 결정하도록 구축하였다. 실험 결과 제안된 기법은 분절단위 기반의 구간 분할 매칭 기법에 비해 우수한 성능을 나타냈다. The segment matching method shows better performance than the global and points-based methods to compare reference signature with an input signature. However, the segment-to-segment matching method has the problem of decreasing recognition rate according to the variation of partitioning points. This paper proposes a fusion model based on the segment matching and HMM to construct a more reliable authentic system. First, a segment matching classifier is designed by conventional technique to calculate matching values for dynamic information of signatures. And also, a novel HMM classifier is constructed by using the principal component analysis to calculate matching values for static information of signatures. Finally, SVM classifier is adopted to effectively combine two independent classifiers. From the various experiments, we find that the proposed method shows better performance than the conventional segment matching method.