다단계 신경망 모델에 대한 다중 처리기 상으로의 사상 전략과 분산 역전파 알고리즘

낭종호(Jong Ho Nang),최선민(Seon Min Choe),이상훈(Sang Hoon Lee),윤현수(Hyun Soo Yoon),맹승렬(Seung Ryoul Maeng) 한국정보과학회 1990 정보과학회논문지 Vol.17 No.3

본 논문에서는 완전히 연결된 다단계 신경망 모델을 분산 메모리 다중 처리기 시스템에 사상시키는 방법과, 이 사상 방법에 기초한 분산 역전파 학습 알고리즘을 제안하고 그 성능을 분석하였다. 제안한 방법에서는 신경망의 각 단계에 있는 뉴론들을 p개의 서로 다른 집합으로 나누고, 이렇게 나눈 부신경망을 p개의 처리기에 할당하여 학습을 시키게 된다. 분석에 의하면 제안된 사상 방법과 분산 역전파 학습 알고리즘의 p-처리기 수행 시간은 하나의 처리기를 사용하는 경우의3/4 · p 만큼의 시간만이 필요하며, 또한 한 처리기는 하나의 처리기를 사용하여 학습 시키는 경우에 비하여 p/2만큼의 메모리만을 가지고 있으면 되기 때문에 큰 신경망을 빠른 속도로 학습시킬 수 있다. 이런 분석은 어떤 신경망 모델을 학습시키는데 필요한 가장 적당한 처리기의 갯수를 결정하는데 사용될 수 있다. In this paper, we propose and analyze a parallel learning algorithm of a fully connected multilayered feedforward neural network using the backpropagation one on a distributed-memory multiprocessor system. In our system, the neurons on each layer are partitioned into p disjoint sets and each set is mapped on a processor of a p-processor system The p-processor speed-up ratio of the backpropagation algorithm over a single processor is 3/4 · P, and space-reduction ratio over a single processor is P/2 This analysis can be used as a basis in determining the most cost-effective or optimal number of processors.

함수논리 언어를 위한 순차 추상기계의 설계 및 성능평가

낭종호(Jong Ho Nang),신동욱(Dong Wook Shin),맹승렬(Seung Ryoul Maeng),조정완(Jung Wan Cho) 한국정보과학회 1990 정보과학회논문지 Vol.17 No.1

함수 논리 언어는 함수 언어의 특징과 논리 언어의 특징을 모두 가지고 있는 강력한 프로그래밍 파라다임이지만, 이런 종류의 언어에 대한 효율적인 구현 방법이 아직 개발되지 않았기 때문에 널리 사용되지 못하고 있다. 본 논문에서는 이 문제점을 해결하기 위하여 함수 논리 언어를 효율적으로 수행할 수 있는 추상 기계 F-WAM에 대한 구조와 인스트럭션 집합을 제안하였다. F-WAM은 논리 언어의 효율적인 처리기인 WAM의 확장형으로서, 기본적인 수행 방법은 SLD-resolution과 리덕션이다. 즉, 함수 논리 언어의 논리 언어 부분을 수행할 때는 WAM과 같은 방법으로 수행하고, 함수 응용을 계산할 때는 리덕션 기계과 같은 방법으로 수행한다. 본 논문에서는 시뮬레이션을 통하여 F-WAM의 성능을 분석하였는데, 함수 응용을 계산할 때는 많은 메모리 영역을 필요로 하는 백트랙킹 정보를 기억할 필요가 없기 때문에 WAM보다 메모리 영역을 적게 사용함을 알 수 있다. 또한 F-WAM의 리덕션 인스트럭션들은 대응되는 WAM 인스트럭션들보다 간단하기 때문에 WAM보다 빠르게 수행할 수 있다. Though functional logic languages are regarded as powerful programming paradigms, they are not used in many-applications owing to their inefficiencies. To resolve this problem, we propose an abstract machine architecture and the instruction set called F-WAM(Functional-WAM), which executes functional logic languages efficiently. F-WAM is a slightly modified version of WAM(Warren Abstract Machine), and its fundamental execution mechanisms are SLD-resolution and reduction. Its execution is similar to WAM in logical deduction, and similar to the reduction machine in function evaluation. The simulation results of F-WAM show that F-WAM usually uses less memory space than WAM because it does not need to remember backtracking informations in function reduction, and more fast than WAM because reduction instructions of F-WAM are more simple than the corresponding WAM instructions.

스프레드시트 데이터를 이용한 시각적 FMEA 분석 시스템 구현

이재호(Jae-ho Lee),최지수(Ji-soo Choi),김상철(Sang-chul Kim),낭종호(Jong-ho Nang) 한국정보과학회 2014 한국정보과학회 학술발표논문집 Vol.2014 No.12

다큐멘터리 영상에서의 그래픽 자료 검출 방법

이재호(Jae-ho Lee),허일(Il Heo),낭종호(Jong-ho Nang) 한국정보과학회 2015 한국정보과학회 학술발표논문집 Vol.2015 No.6

고차원 멀티미디어 데이터 검색을 위한 벡터 근사 비트맵 색인 방법

박주현,손대온,낭종호,주복규,Park Joo-Hyoun,Son Dea-On,Nang Jong-Ho,Joo Bok-Gyu 한국정보처리학회 2006 정보처리학회논문지D Vol.13 No.4

Recently, the filtering approach using vector approximation such as VA-file[1] or LPC-file[2] have been proposed to support similarity search in high dimensional data space. This approach filters out many irrelevant vectors by calculating the approximate distance from a query vector using the compact approximations of vectors in database. Accordingly, the total elapsed time for similarity search is reduced because the disk I/O time is eliminated by reading the compact approximations instead of original vectors. However, the search time of the VA-file or LPC-file is not much lessened compared to the brute-force search because it requires a lot of computations for calculating the approximate distance. This paper proposes a new bitmap index structure in order to minimize the calculating time. To improve the calculating speed, a specific value of an object is saved in a bit pattern that shows a spatial position of the feature vector on a data space, and the calculation for a distance between objects is performed by the XOR bit calculation that is much faster than the real vector calculation. According to the experiment, the method that this paper suggests has shortened the total searching time to the extent of about one fourth of the sequential searching time, and to the utmost two times of the existing methods by shortening the great deal of calculating time, although this method has a longer data reading time compared to the existing vector approximation based approach. Consequently, it can be confirmed that we can improve even more the searching performance by shortening the calculating time for filtering of the existing vector approximation methods when the database speed is fast enough. 고차원 데이터 공간에서의 효과적인 검색을 위해 최근 VA-file[1], LPC-file[2] 등과 같이 벡터 근사에 기반을 둔 필터링 색인 방법들이 연구되었다. 필터링 색인 방법은 벡터를 근사한 작은 크기의 색인 정보를 사용하여 근사 거리를 계산하고, 이를 사용하여 질의 벡터와 유사하지 않은 대부분의 벡터들을 빠른 시간 안에 검색 대상에서 제외한다. 즉, 실제 벡터 대신 근사 벡터를 읽어 디스크 I/O 시간을 줄여 전체 검색 속도를 향상시키는 것이다. 하지만 VA-file 이나 LPC-file은 근사 거리를 구하는 방법이 순차 검색과 같거나 복잡하기 때문에 검색 속도 향상 효과가 그리 크지 않다는 문제점을 가지고 있다. 본 논문은 이러한 근사 거리 계산 시간을 줄이기 위하여 새로운 비트맵 색인 구조를 제안한다. 근사 거리 계산속도의 향상을 위하여, 각 객체의 값을 특성 벡터 공간상의 위치를 나타내는 비트 패턴으로 저장하고, 객체 사이의 거리를 구하는 연산은 실제 벡터 값의 연산보다 속도가 훨씬 빠른 XOR 비트 연산으로 대체한다. 실험에 의하면 본 논문이 제안하는 방법은 기존 벡터 근사 접근 방법들과 비교하여 데이터 읽기시간은 더 크지만, 계산 시간을 크게 줄임으로써 전체 검색 속도는 순차 검색의 약 4배, 기존의 방법들보다는 최대 2배의 성능이 향상되었다. 결과적으로, 데이터베이스의 속도가 충분히 빠른 경우 기존의 벡터 근사 접근법의 필터링을 위한 계산 시간을 줄임으로써 더욱 검색 성능을 향상 시킬 수 있음을 확인할 수 있다.

생방송 비디오 스트림 전송을 위한 프록시 서버의 설계와 구현

김현민(Kim Hyun Min),낭종호(Nang Jong Ho) 한국정보과학회 2002 한국정보과학회 학술발표논문집 Vol.29 No.1B

생방송 비디오 프록시는 사용자에게 최신의 비디오 데이터를 전송해야 한다. 그러나 큰 파일을 나누어 미리 캐싱하는 기존의 방법으로는 최신의 데이터를 보여줘야 하는 생방송 VOD의 제약을 만족시킬 수 없다. 본 논문에서는 생방송 비디오 스트림을 대상으로 효과적으로 캐싱할 수 있도록 클라이언트의 요청을 받는 큐와, 생방송 비디오 데이터를 저장하는 버퍼풀을 구성하였고, 이들이 제대로 동작하기 위한 동기화 과정을 설계하였다. 이 구조의 특징은 프록시가 클라이언트들의 요청을 일정시간 동안 모아서, 미디어 서버에게 한번만 요청한다는 데에 있다. 미디어 서버는 프록시에게만 요청을 받고 데이터를 전달하게 되며, 모든 부하는 프록시 쪽으로 옮겨간다. 결국 프록시 서버의 개수를 늘리거나 성능을 확장하면 서비스 가능한 클라이언트의 수를 확장시킬 수 있는, 이른바 확장성의 개선을 기대할 수 있다. 실제로 구현해본 결과 지연시간 개선, 확장성 효과 등 프록시로서 만족할 만한 성능이 나옴을 확인하였다. 비연속적인 비디오 데이터를 대상으로 한 본 논문은, 오디오와 같이 연속적인 성질의 데이터에 대한 처리를 보강한다면 수요가 늘고있는 생방송 VOD서비스에 대비한 프록시 개발에 도움을 줄 것이다.

스포츠 중계 방송의 특성을 이용한 축구동영상 하이라이트 생성 알고리즘

김재홍(Kim Jae Hong),낭종호(Nang Jong-Ho),하명환(Ha Myong-Hwan),정병희(Jeong Byung-Hee),김경수(Kim Kyong Soo) 한국정보과학회 2002 한국정보과학회 학술발표논문집 Vol.29 No.2Ⅱ

본 논문에서는 축구 동영상에서 스포츠 중계방송의 특징을 이용하여 자동적으로 하이라이트(Highlight)를 추출하는 새로운 방법을 제안하고 실험을 통하여 그 유용성을 증명한다. 일반적으로 스포츠 중계 방송에서는 중요한 이벤트(골, 반칙)가 발생하면, 그 장면을 다시 느린속도의 리플레이(Replay) 화면으로 보여주고, 리플레이가 시작되고 끝날 때 Wipe와 같은 점진적인 화면 전환 기법을 사용하는 특성을 가지고 있다. 본 논문에서는 이러한 스포츠 중계방송의 특징을 이용하여 Wipe검출, Replay검출 및 Zoom-In/Out 전환 검출을 이용하여 전체 축구 동영상에서 하이라이트 반을 추출하는 방법을 제안한다.

모바일 환경을 위한 동영상 검색 및 상영 시스템의 확장

이상민(Sang-Min Lee),낭종호(Jong-Ho Nang) 한국정보과학회 2003 한국정보과학회 학술발표논문집 Vol.2003 No.2

볼쯔만 머신 모델에 기초한 마감 시간을 갖는 다중처리기 태스크의 스케쥴링 방법

김진석(Jin Snk Kim),낭종호(Jong Ho Nang),윤현수(Hyunsoo Yoon),맹승렬(Seung Ryoul Maeng) 한국정보과학회 1993 정보과학회논문지 Vol.20 No.9

Since the problem of scheduling multiprocessor tasks with deadlines is known as a hard combinatorial optimization one, an approximation or heuristic algorithm has been studied. A Boltzmann machine is such an approximation method based on neural network that can be executed in highly parallel. In this paper, we propose a mapping scheme of the scheduling problem onto a Boltzmann machine and a Boltzmann machine-based scheduling method for multiprocessor tasks with deadlines. It is proven that maximization of the consensus function of the Boltzmann machine corresponds to finding a schedule with the maximum number of tasks that can be completed without violating their deadlines. It is argued by simulations that the Boltzmann machine configured with this mapping scheme outperforms the traditional heuristic scheduling algorithms. 실시간 특성을 갖는 다중처리기 태스크 스케쥴링은 매우 어려운 최적화 문제로 잘 알려져 있기 때문에 이 문제를 해결하기 위한 근사(approximation)기법이나 휴리스틱 알고리즘이 개발되었다. 신경망의 일종인 볼쯔만 머신은 병렬로 수행될 수 있는 근사 기법이며 많은 최적화 문제를 잘 해결할 수 있음이 알려져 있다. 본 논문에서는 실시간 특성을 갖는 다중처리기 태스크 스케쥴링 방법을 제안하였다. 또한 제안된 볼쯔만 머신의 consensus 함수를 극대화하면 스케쥴링 문제에서 한계시간내에 수행을 마치는 태스크의 갯수를 극대화 할 수 있다는 것을 증명하였다. 그리고 시뮬레이션을 통하여 볼쯔만 머신이 기존의 휴리스틱 알고리즘보다 스케쥴링을 더 잘 함을 보였다.

문맥을 고려한 예제 기반 동영상 검색 알고리즘

박주현(Joo Hyoun Park),낭종호(Jong Ho Nang),김경수(Gyung Su Kim),하명환(Myung hwan Ha),정병희(Byung Hee Jung) 한국정보과학회 2003 정보과학회논문지 : 시스템 및 이론 Vol.30 No.11·12

효율적인 동영상 검색 방법은 많은 양의 동영상 데이터를 관리하는 디지털 비디오 라이브러리 시스템에서 필수적으로 요구되는 기능이다. 본 논문에서는 샷 단위 동영상을 문맥, 전경, 배경, 오디오로 나누어 비교하여 질의 동영상과 비슷한 동영상을 찾아내는 예제 기반 동영상 검색 알고리즘을 제안하였고, 제안한 알고리즘에 따라서 저작 및 검색도구를 구현하였다. 샷간의 관계 정보 즉, 문맥을 고려한다는 것은 인접한 샷들 간의 오디오, 움직임 정보들과 같은 저급 수준 내용 정보 간에 변화 패턴을 비교한다는 것이다. 두 번째 비교 요소인 전경은 움직이는 객체들의 집합을 의미하고, 세 번째 비교 요소인 배경은 전경을 제외한 나머지 비디오 정보를 의미한다. 이러한 비교 방법은 동영상 제작 과정에 근거한 것으로써 사용자로 하여금 직관적인 비교를 할 수 있게 한다. 또한 질의 신을 직접 구성할 수 있게 하였고, 각각의 비교요소에 가중치를 부여할 수 있도록 하여서 사용자의 검색의도를 자유롭게 반영할 수 있도록 하였다. 본 논문에서는 동영상이 가지고 있는 의미 정보를 검색에 완전히 반영하지는 못하지만, 문맥을 통해서 부분적인 의미 정보를 사용할 수 있도록 하였으며, 질의 신 구성과 직관적인 비교 요소를 사용함으로써 사용자의 검색 의도를 최대한 반영하고자 하였다. Digital Video Library System which manages a large amount of multimedia information requires efficient and effective retrieval methods. In this paper, we propose and implement a new video search and retrieval algorithm that compares the query video shot with the video shots in the archives in terms of foreground object, background image, audio, and its context. The foreground object is the region of the video image that has been changed in the successive frames of the shot, the background image is the remaining region of the video image, and the context is the relationship between the low-level features of the adjacent shots. Comparing these features is a result of reflecting the process of filming a moving picture, and it helps the user to submit a query focused on the desired features of the target video clips easily by adjusting their weights in the comparing process. Although the proposed search and retrieval algorithm could not totally reflect the high level semantics of the submitted query video, it tries to reflect the users' requirements as much as possible by considering the context of video clips and by adjusting its weight in the comparing process.