추계 동적 연상 메모리망에서의 시간분할

한승기,박선희,김원섭,국형태(Seung Kee Han),Seon Hee Park,Won Sup Kim,Hyungtae Kook 한국정보과학회 1998 정보과학회논문지(B) Vol.25 No.1

본 논문에서는 동적 연상 기억망에서 추계 공명을 이용한 새로운 시간 분할 방법을 제안한다. 이 동적 신경망은 흥분성 결합에서는 동기화가 일어나고 억제성 결합에서는 방동기화가 일어나는 생물학적인 신경계의 동적 특성에 기반을 두고 있다. 생물학적인 뉴런은 간단히 문턱치 이하의 주기적인 자극과 잡음의 영향을 받고 있는 일차원 비선형 진동자로 나타내었다. 적절한 세기의 잡음에 대해서 뉴런의 발화는 가해진 주기적인 자극화 동기화 되는 추계 공명이 일어난다. Hopfield 타입의 연상 기억망에 몇 개의 중첩된 입력 패턴이 가해졌을 때, 이 망은 입력 패턴을 시간 분할할 수 있음을 보인다. 시간 분할은 같은 패턴에 속하는 뉴런끼리는 동기화, 그리고 다른 패턴에 속하는 뉴런끼리는 반동기화로 일어난다. 이 신경망의 성능, 시간 분할률은 결합의 세기와 잡음의 세기에 의존함을 보인다. 특히 잡음의 세기에 따라서 시간 분할률이 최대가 되는 최적의 상태가 있음을 보인다. 그리고 이러한 최적 상태는 노드간의 결합의 세기가 커짐에 따라서 점차 낮은 잡음의 세기 쪽으로 이동하는 것을 보았다. 이러한 현상에는 뉴런간의 억제성 결합이 중요하게 작용함을 보인다. We propose a new mechanism of temporal segmentation based on the stochastic oscillatory associative memory. The oscillatory associative memory is motivated by the dynamic behavior of biological neuronal system, where the excitatory(inhibitory) coupling induces synchrony(desynchrony) among the neurons. For simplicity, the biological neurons are represented by the one-dimensional nonlinear oscillators, which are driven by the periodic subthreshold stimulus and random noises. For an optimal noise intensity, the firing events are synchronized with the driving force, that is a kind of stochastic resonance. For a Hopfield type associative memory, we show that the network has the capability of temporal segmentation for an input pattern which is a mixture of some stored patterns. The temporal segmentation is accomplished by the temporal pattern of synchrony among the neurons representing a stored pattern and desynchrony between neurons representing different stored patterns. The performance of the network, temporal segmentation ratio, is shown to depend both on the strength of coupling and noise intensity. Especially it is shown that for an optimal range of noise intensity the network performs optimally and the corresponding noise intensity decreases as the coupling strength increases. It is shown that the inhibitory coupling between different patterns is essential in temporal segmentation for small noise intensity.

신경모형계에서 동기, 반동기 및 발작현상

한승기(Seung Kee Han),임태규(Tae Gyu Yim),박선희(Seon Hee Park),김승환(Seunghwan Kim),김승환(Seunghwan Kim),유창수(Chang Su Ryu) 한국정보과학회 1996 정보과학회논문지(B) Vol.23 No.11

이 논문에서는, 신경계가 정보를 인지하는 방식으로 이해되고 있는 동기화(synchronization)와 반동기화(desynchronizaton)를 함께 줄 수 있는 새로운 모형계를 제시한다. 일반적으로, 전기적결합(electric coupling)을 하고 있는 신경모형계에서는 신경세포(neuron) 들 사이에 동기화가 일어나는 것으로 알려져 왔으나, 우리는 반동기화를 줄 수 있는 새로운 방법을 발견했다. 이 현상은 같은모임쌍갈림(homoclinic bifurcation)으로 부터 생기는 주기운동에서 일어나며, 간단히 위상모델(phase model)로 설명될 수 있다. 또한 여러 개의 신경세포가 결합되었을 때, 신경세포들 사이에 반위상으로 인한 새로운 종류의 발작(bursting)이 일어남을 알았다. 이러한 결합된 신경모형계의 집단적 거동을 분석하기 위해서 계를 축소된 3차원 위상공간으로 재구성했다. 이 축소된 위상공간에 대한 분석으로 부터, 이 신경모형계가 외부자극의 세기에 따라 주기배가에 의한 혼돈거동(chaotic behavior)을 보임을 알 수 있었다. 이 결과로 부터, 외부자극의 세기와 같은 양들을 사용해서 결합된 신경계의 거동을 예측할 수 있음을 보였다. In this paper, we propose a new mechanism for generating synchronization and desynchronization of neurons, which is believed to play an important role in the information processing in the biological neural network. When the neurons are electrically coupled, it is usually expected that they will be synchronizing. But, counter-intuitively, it has been turned out found that they are desynchronizing. This can be explained in terms of phase model analysis of oscillatory behavior which occurs through a homoclinic bifurcation. As a collective behavior for a coupled system with many neurons, we have found that a new kind of bursting behavior arises because of the dephasing of neurons. To analyze the collective behavior, we have replotted the attractor in 3-dimensional mean phase space and have found that there is a period-doubling route to chaos as decrease the strength of the external stimulus. Through this result, we have found that it is possible to predict the behavior of a coupled neuronal system for a given external stimulus.

추계 공명 현상을 이용한 동적 연상 기억망에서 시간 분할을 통한 중첩된 패턴 인식

한승기(Seung Kee Han),김원섭(Won Sup Kim),국형태(Hyungtae Kook) 한국정보과학회 1997 한국정보과학회 학술발표논문집 Vol.24 No.1B

본 논문에서는 동적인 비선형 신경 소자의 동기화와 반동기화 현상을 이용해서 중첩된 패턴을 시간적으로 분할하여 인식할 수 있는 동적인 연상 기억망을 구성하였다. 본 논문에서 사용하는 신경 소자는 여러 가지 동적인 특성을 보이는 비선형 일차원 진동자로 모형화하였으며 주기적인 외부 자극과 적절한 세기의 잡음에 의해서 준 주기적으로 발화하는 추계공명 현상을 활용한다. 또한 이들 비선형 신경 소자의 상호 결합이 흥분성 혹은 억제성 결합일 때 동기화 혹은 반동기화가 되는 현상을 활용한다. 이러한 동적 특성을 신경망에 구현하면 중첩된 패턴이 자동적으로 시간 분할하여 사물 합성을 하거나 배경과 사물을 분리하는 문제에 이용할 수 있다. 즉 중첩된 패턴에서 부분 패턴에 속하는 노드끼리는 동기화 시키고 다른 패턴에 속하는 노드끼리는 반동기화 시킴으로써 자동적인 시간 분할이 가능하게 되는 것이다. 이러한 동적인 신경 소자를 기존에 널리 사용되어진 Hopfield 타입의 연상 기억망에서 적용하여 중첩된 입력 패턴에 대해서 시간 분할이 가능하고 따라서 사물 합성이 가능함을 보였다. 또한 시간 분할을 통하여 중첩된 패턴을 시간 분할하는 신경망의 능률, 시간 분할률은 각 노드 사이의 상호 결합의 세기나 잡음의 세기에 따라 변화가 있는 것을 보았다. 또한 약간 손상된 패턴에 대해서도 인식할 수 있는 연상기억 능력도 있는 것을 보았다.

추계 공명 현상을 이용한 동적 연상 기억망에서 잡음 조절을 이용한 선택적 시각집중

한승기(Seung Kee Han),김원섭(Won Sup Kim),국형태(Hyungtae Kook) 한국정보과학회 1997 한국정보과학회 학술발표논문집 Vol.24 No.2Ⅱ

본 논문에서는 신경계의 특성을 이용하여 중첩된 패턴에 대해 각각을 분리, 인식하기 위해 신경소자의 특성인 동기화와 반동기화 현상 및 추계공명 현상을 이용하여 동적 연상기억망을 구성한다. 또한 부분적인 정보만 입력되어진다 하더라도 전부터 인지하고 있었던 정보와 비교하여 가장 비슷한 정보에 대해 집중을 하고 나머지 부분은 집중하지 않는 선택적 시각 집중을 시간에 따른 잡음의 세기를 조절하는 방법으로 모형화 한다.

추계 진동자 신경망을 이용한 한글 인식

한승기(Seung Kee Han),김원섭(Won Sup Kim),국형태(Hyungtae Kook) 한국정보과학회 1998 한국정보과학회 학술발표논문집 Vol.25 No.1B

본 논문에서는 신경계의 동기화와 반동기화 현상을 활용한 동적 연상기억망에서 자소의 시간적 분할을 통한 한글 문자의 인식에 대해서 조사한다. 이러한 동적 신경망에서는 시간 분할을 통해 한글 문자의 자소를 분리된다. 즉, 신경계의 결합 특성에 의해서 한 개의 자소에 속하는 노드들은 동시에 발화가 일어나게(동기화)하고, 서로 다른 자속에 속하는 노드들 간에는 서로 다른 시간에 발화가 일어나게(반동기화)함으로 한 문자에 속하는 여러 개의 자소가 분리된다. 그리고 시간적으로 분리된 자소의 조합으로 문자를 인식할 수 있다. 이러한 것은 기존의 신경망을 이용한 자소 단위 인식 신경망에서 겪게 되는 자소 단위의 영역 분할 문제에 큰 도움이 될 것이다.

연구발표논문초록 ( 공업화학 (Ⅲ) ) : 수산화마그네슘의 침강속도에 관한 연구

이문득 (정),한승기 (학) ( Moon Deuk Lee,Seung Kee Han ) 한국화학공학회 1986 추계학술발표회 Vol.- No.-

TSP를 위한 유전자 알고리즘

이강구(Kang-Ku Lee),한승기(Seung-Kee Han),이성환(Seong-Whan Lee) 한국정보과학회 1995 정보과학회논문지 Vol.22 No.4

본 연구에서는 N 개의 도시를 방문하는 TSP 문제의 최단 경로를 찾기 위하여 유전자 알고리즘을 적용하였다. 유전자 알고리즘에서는 새로운 경로를 만들어 내기 위하여 교차 연산자, 돌연변이 연산자 및 전위 연산자가 자주 도입된다. 최근 전치(前値) 행렬을 이용한 교차 연산자인 Union 연산자가 기존의 연산자보다 훨씬 효과적으로 최단의 경로를 찾는 것으로 알려졌다. 그러나 전치 행렬을 사용한 방법에서의 Union 연산자는 N×N 행렬을 사용하기 때문에 계산 시간이 많이 걸리게 된다. 이러한 문제를 해결하기 위하여 Union 연산자를 N 개의 도시에 대한 연산으로 바꾸어 주었다. 그 결과 계산 시간이 현저하게 줄어 들었으며, 그 결과를 30 도시 문제에 적용한 결과 연산자의 성능이 partially matched crossover 연산자와 edge-recombination crossover 연산자보다 더 나은 결과를 주었다. In this paper, we apply the genetic algorithm to find out the optimal path in the N-city traveling salesman problem. Crossover, mutation and inversion operators are usually introduced to generate a new path from an old one in the genetic algorithm. Recently, the Union operator in the precedence matrix representation was found to be efficient in generating optimal path. In the precedence matrix representations, the Union operators require N×N matrix manipulations, which demand much computing time To solve this problem, we introduce a new Union operator in the standard representation of N cities. As results, the computing times are considerably reduced and the optimal path for 30-cities problem are easily obtained comparing with the results using the partially matched crossover and edge-recombination crossover operator.

TSP에서 Union 연산자를 이용한 유전자 알고리즘

이강구(Kang ku Lee),한승기(Seung Kee Han) 한국정보과학회 1994 한국정보과학회 학술발표논문집 Vol.21 No.1

본 연구에서는 TSP에 유전자 알고리즘을 적용하여 최단 경로를 찾아내는 방법에 대해서 조사하였다. 유전자 알고리즘을 TSP에 적용하기 위해서는 N개의 도시 순서에 적절한 돌연변이, 교차 및 전위 연산자를 도입하여야 한다. 최근에 많은 관심을 끌고 있는 Precedence 행렬을 이용한 교차 연산인 UNION 연산자는 기존의 연산자보다 훨씬 쉽게 최적의 경로로 접근함을 보였다. 그러나 이 방법은 Precedence 행렬 계산 때문에 메모리가 많이 필요하고 매 단계마다 걸리는 계산시간이 길어지는 단점이 있다. 본 연구에서는 UNION 연산자를 기존의 방법처럼 N개의 도시에 대한 연산을 바꾸어 주었다. 그 결과 매 단계마다 걸리는 시간도 줄어들고, 경로도 최적의 경로로 쉽게 접근함을 보였다.

유전자 알고리즘에서의 엔트로피 - 볼쯔만 선택 방법

이강구(Kang Ku Lee),한승기(Seung Kee Han) 한국정보과학회 1994 한국정보과학회 학술발표논문집 Vol.21 No.2A

본 연구에서는 유전자 알고리즘에서 나타나는 조기 수렴(premature convergence)현상을 해결하기 위하여 유전자 알고리즘에 엔트로피-볼쯔만 선택 방법을 도입하였다. 엔트로피-볼쯔만 선택 방법은 Monte Carlo 방법의 볼쯔만 샘플링과 엔트로피 샘플링을 결합한 것이다. 엔트로피 샘플링에서 엔트로피의 효과는 개체의 분포가 적은 쪽으로 다음 세대가 진화하게 하는 것이다. 따라서 유전자 알고리즘의 엔트로피 샘플링은 국소 최소점으로부터 쉽게 빠져 나오게 하는 역할을 한다. 반면에 볼쯔만 샘플링에서 온도의 역소로 정의 되는 β는 국소 최소점으로의 수렴 속도(convergence rate)와 탈출 시간(escape time)을 조절할 수 있게 한다. TSP의 30 도시 문제에 이 방법을 적용한 결과에서 우리는 β가 증가할수록 수렴 속도는 감소하지만 국소 최소점으로부터 빠져 나오는데 걸리는 시간이 짧아짐을 알 수 있었다.

엔트로피 샘플링에 기초한 유전자 - 엔트로피 알고리즘

이창용(Chang-Yong Lee),한승기(Seung Kee Han) 한국정보과학회 1997 한국정보과학회 학술발표논문집 Vol.24 No.1B

본 연구에서는 새로운 최적화 알고리즘인 유전자-엔트로피 알고리즘을 제안하였다. 엔트로피 샘플링에 기초한 이 알고리즘은 임의의 배열이 선택될 확률을 그 배열의 엔트로피에 의조하게 함으로 주어진 시스템의 전 에너지(혹은 fitness) 영역을 균일한 확률로 선택할 수 있게 한다. 이러한 엔트로피 샘플링은 주어진 시스템의 국소최소치를 보다 쉽게 빠져 나올 수 있다는 장점이 있으며 따라서 전체 최소치(혹은 최대치)를 보다 효과적으로 찾아갈 수 있다. 특히 이 알고리즘을 국소 최소치가 많은 NK-모델에 적용하여 본 결과 K 값이 클수록 기존의 유전자 알고리즘보다 좋은 성능을 가짐을 알 수 있었으며 유전자-엔트로피 알고리즘의 특성과 기존의 알고리즘과의 차이도 살펴보았다.