퍼지 결정 트리를 이용한 간결한 퍼지 규칙의 생성

민창우(Changwoo Min),김명원(Myung Won Kim) 한국정보과학회 1997 한국정보과학회 학술발표논문집 Vol.24 No.1B

기계학습이나 퍼지 규칙 생성은 데이터로부터 규칙을 찾아냄으로써 지식 병목 문제(knowledge bottleneck problem)를 해결할 수 있을 것으로 기대를 받았다. 이러한 방법으로 생성된 규칙은 좋은 분류율을 가져야 함은 물론 이해하기 쉬워야 한다. 본 논문에서는 이해하기 쉬운 퍼지 규칙을 생성하기 위한 방법으로 퍼지 결정 트리 생성에 의한 퍼지 규칙 생성 방법을 제안한다. 제안된 알고리즘은 히스토그램에 기반하여 퍼지 소속함수를 생성하는 단계와 생성된 소속 함수를 이용하여 퍼지 결정 트리를 구성하는 두 단계로 이루어진다. 또한 제안된 방법의 타당성을 검증하기 위해 표준적인 패턴 분류 벤치마크 데이터인 iris 데이터와 breast cancer Wisconsin 데이터에 대한 실험 결과를 보인다.

유연한 추론을 위한 연결주의적 지식 표현 구조

민창우(Changwoo Min),김영분(Youngboon Kim),김명원(Myung Won Kim) 한국정보과학회 1997 정보과학회논문지(B) Vol.24 No.6

기존의 기호주의적 인공지능 시스템이 지식을 표현하고 추론하는데 있어서 유연성을 결여하고 있다는 것은 잘 알려진 사실이다. 이것은 기호주의적 지식표현 방법이 표현하고자 하는 의미구조를 반영하고 있지 않기 때문이다. 본 논문에서는 유연한 지식표현과 추론을 위한 연결주의적 접근방법으로써 신경망에 기반한 새로운 지식표현과 추론체계인 Connectionist Semantic Network(CSN)을 제안한다. CSN에서 지식은 개념을 나타내는 상호연결된 노드로써 표현된다. 각 상위개념은 그것과 연관이 있는 하위개념의 네트워크 형태로 표현된다. 각 개념들 사이의 연결은 유연한 추론에 있어서 중요한 역할을 하는 유사성과 연관성을 나타낸다. 이와 같은 구조를 가지는 CSN에서, 추론은 관련된 개념들의 활성화를 네트워크를 통하여 전파함으로써 이루어진다. 본 논문에서는 실험을 통하여 CSN이 유연한 지식표현과 추론에 효율적인 구조라는 것을 보인다. It is well known that the conventional symbolic approach suffers from lacking flexibility in representing knowledge and inference. It mainly attributes to the fact that symbolic knowledge representation does not well reflect semantic structure to be represented. In this paper we investigate a connectionist approach to flexible knowledge representation and reasoning. We propose the Connectionist Semantic Network (CSN), a new knowledge representation and reasoning system based on neural networks. In the CSN we represent knowledge as a network of interconnected nodes representing concepts, Each high level concept is, in turn, represented by its semantic structure, a network of its associated subconceptual components. Connections incoporate similarity and association between concepts, which are important for flexible inference. In the CSN inference can be done by propagating the activations of pertinent conceptual nodes through the network. Our simulation results demonstrate that the CSN is an efficient structure for flexible knowledge representation and inference.

간결한 퍼지 규칙을 생성하는 데이타 마이닝 알고리즘

민창우(Changwoo Min),김명원(Myung Won Kim),김수광(Soo Kwang Kim) 한국정보과학회 1998 정보과학회논문지(B) Vol.25 No.10

컴퓨터의 사용이 보편화됨에 따라 사회의 각 분야에서 많은 양의 데이타가 수집, 저장되고 있다. 따라서 이러한 방대한 데이타에서 유용하고 이해 가능한 패턴을 찾아내기 위한 방법에 관한 연구인 KDD에 대한 연구의 중요성이 증대하고 있다. 본 논문에서는 퍼지 결정 트리를 이용하여 이해하기 쉬운 퍼지 규칙을 생성하는 데이타 마이닝 알고리즘을 제안한다. 제안된 알고리즘은 히스로그램에 기반하여 퍼지 소속함수를 생성하는 단계와 생성된 소속 함수를 이용하여 퍼지 결정 트리를 구성하는 두 단계로 이루어진다. 또한 제안된 방법의 타당성을 검증하기 위해 표준적인 패턴 분류 벤치마크 데이타인 Iris 데이타와 Wisconsin Breast Cancer 데이타에 대한 실험 결과를 보인다. Across a wide variety of fields, data are being collected and accumulated at a dramatic pace. There is urgent need to find useful patterns from large databases. The subject of KDD is development of automatic and intelligent tools and technologies to find useful knowledge from databases. In this paper, we propose an efficient data mining algorithm using fuzzy decision tree. It can generate simple and comprehensible rules describing data. The proposed algorithm is composed of two passes: the first pass generates fuzzy membership functions from histogram analysis, while the second pass constructs a fuzzy decision tree using the fuzzy membership functions generated in the first pass. We tested the algorithm with the IRIS data and the Wisconsin Breast Cancer data. The Experiment results show that our method is efficient for generating a set of efficient fuzzy rules from data.

메모리 접근 성능 향상을 위한 계층적 비트맵 기반 TLB 표현 기법

민창우(Changwoo Min),김태형(Taehyoung Kim),엄영익(Young Ik Eom) 한국정보과학회 2011 한국정보과학회 학술발표논문집 Vol.38 No.1A

하드웨어의 발전으로 인하여 한 머신에 장착되는 물리 메모리의 크기가 점차로 커지고 있으며, 가상화 기술과 같은 서버 통합 워크로드가 일반화됨에 따라 개별 응용프로그램의 working set size 또한 증가하고 있다. 하지만 가상주소에 대한 물리주소 변환의 cache인 TLB(Translation Look-aside Buffer)의 커버리지는 물리 메모리 크기가 커짐에 따라 점차 줄어들어 TLB miss가 발생하여 메모리 접근이 느려질 가능성이 더욱 높아지고 있다. 본 논문에서는 계층적 비트맵을 사용하는 TLB 표현 방법을 이용하여 TLB커버리지를 높이는 하드웨어적인 기법을 제안하고, 이에 적합한 운영체제 기법을 제안한다.

바이트 단위 접근이 가능한 비휘발성 메모리 환경에서 프로그래밍에 대한 고찰

민창우(Changwoo Min),김욱희(Wook-Hee Kim),김재호(Jaeho Kim) 한국정보과학회 2022 정보과학회지 Vol.40 No.9

가상화 지원 스왑 장치를 이용한 효율적인 페이징 기법

민창우 ( Changwoo Min ),김인혁 ( Inhyuk Kim ),김태형 ( Taehyoung Kim ),엄영익 ( Young Ik Eom ) 한국정보처리학회 2010 한국정보처리학회 학술대회논문집 Vol.17 No.2

가상화는 서버통합을 통하여 가상머신 간의 하드웨어 자원을 공유함으로써, 총 소유 비용을 줄일 수 있어서 널리 사용되고 있다. 하지만 메모리는 다른 장치와 달리 쉽게 공유되기 어려워서 서버 통합에 있어서 병목이 되고 있다. 이를 해결하기 위한 여러가지 방법들중 많은 방법이 공통적으로 가상머신모니터에서 페이징을 사용하고 있다. 하지만 게스트 운영체제와 가상머신모니터가 모두 페이징을 할 경우, 페이징이 급격히 증가가는 이중 페이징 문제가 발생할 수 있다. 본 논문에서는 이중 페이징 문제를 해결하기 위한 방법으로 가상머신모니터와 게스트 운영체제가 스왑 장치를 공유하는 가상화 지원 스왑 장치를 제안한다. 또한 실험을 통하여 가상머신모니터가 페이지 교환 알고리즘으로 LRU 를 사용할 경우 이중 페이징 문제가 크게 발생할 수 있음을 보인다.

메모리 접근 성능 향상을 위한 계층적 TLB 표현 기법 및 메모리 관리 기법

민창우(Changwoo Min),김태형(Taehyoung Kim),엄영익(Young Ik Eom) 한국정보과학회 2012 정보과학회 컴퓨팅의 실제 논문지 Vol.18 No.3

하드웨어의 발전으로 인하여 하나의 머신에 장착되는 물리 메모리의 크기가 점차 커지고 있다. 또한 가상화 기술과 같은 서버 통합 워크로드가 일반화됨에 따라 개별 응용프로그램의 워킹셋 또한 증가하고 있다. 하지만 가상주소에 대한 물리주소 변환의 캐시인 TLB(Translation Look-aside Buffer)의 상대적 커버리지는 물리 메모리 크기가 커짐에 따라 점차 줄어들고 있다. 따라서 TLB 미스 (miss)가 발생하여 메모리 접근이 느려질 가능성은 더욱 높아지고 있다. 본 논문에서는 계층적 비트맵을 사용하는 TLB 표현 방법을 이용하여 TLB 커버리지를 높이는 하드웨어 기법을 제안하고, 이에 적합한 메모리 관리기법을 제안한다. 또한 시뮬레이션을 통한 실험을 통하여 제안된 기법이 실제 TLB 미스를 줄이는데 효과적임을 보인다. In advances of computing hardware, size of physical memory per machine is getting larger. Moreover, the working set size per application is also getting larger, as virtualization and server consolidation is getting popular. However, the relative coverage of Translation Look-aside Buffer (TLB), which caches mappings between virtual address and physical address, is getting smaller as size of physical memory increases. Thus, TLB miss becomes more frequent and the cost of memory access is getting higher. To address this problem, we propose a new TLB mechanism that represents multiple mappings using one TLB entry and several operating system schemes to facilitate the effectiveness of the proposed TLB mechanism. Our simulation results show the proposed mechanism is effective to reduce TLB miss on real world workload.

매니코어 운영체제 연구현황 및 계획

정성인,김태수,민창우,박성용,변석우,서의성,우균,이경우,이재욱,임성수,임은진,조희승,진현욱,Jung, Sungin,Kim, Taesoo,Min, Changwoo,Park, Sungyong,Byun, Sugwoo,Seo, Euiseong,Woo, Gyun,Lee, Kyoungwoo,Lee, Jaewook,Rim, Sung-Soo,Im, Eun-Jin,Jo, 한국전자통신연구원 2017 전자통신동향분석 Vol.32 No.6

The trend of manycore hardware has recently evolved more quickly than expected. However, an operating system, which is software used for managing computer resources, is still optimized for a multicore system. To handle this issue, we started a research project called 'Research on High Performance and Scalable Manycore Operating Systems' in 2014. This article briefly examines the technology trends of manycore hardware and operating systems, and introduces the research areas and outcomes during the first stage of the project(2014-2017). The core technologies improving the performance scalability of manycore systems are publicly available, and anyone can use the source code or apply the ideas of the core technique to other research activities. In addition, the research plans of the second stage of the project(2018-2021) are also included.

비휘발성 메모리를 위한 트리 기반 인덱스 자료구조 서베이

김욱희(Wook-Hee Kim),민창우(Changwoo Min) 한국정보과학회 2022 정보과학회지 Vol.40 No.9

신경망 학습에서 국부적 최적해 탈출을 위한 확률적 교환

김삼근(Samkeun Kim),민창우(Changwoo Min),김명원(Myung Won Kim) 한국정보과학회 1998 정보과학회논문지(B) Vol.25 No.1

EBP(Error Back-Propagation) 학습 알고리즘은 패턴 인식, 적응 제어 등의 복잡한 문제를 해결하는데 성공적으로 적용되어 온 다층 퍼셉트론(multi-layer perceptron)을 학습시키는 대표적인 학습 알고리즘이다. 그러나 이것은 몇 가지 문제점을 안고 있다. 즉, EBP 학습 알고리즘은 기본적으로 오차 표면의 기울기를 이용하여 학습을 수행하는 경사 하강법을 이용한 학습 알고리즘으로 국부적 최적해에 수렴할 수 있다는 문제점을 내포하고 있다. 더욱이 학습이 성공적으로 이루어지기 위해서는 주어진 문제의 적절한 신경망 구조를 결정해야 한다. 신경망 구조를 결정하는 것은 대개 은닉 노드의 개수를 결정하는 문제로서 이것은 주로 시행 착오에 의해서 결정된다. 이 논문에서는 위의 두 가지 문제를 해결하는 새로운 알고리즘을 제안한다. 제안한 학습 알고리즘은 가중치 공간에서 확률적 교란을 수행함으로써 다층 퍼셉트론 학습에서의 국부적 최적해에 수렴한 경우로부터 효과적으로 탈출한다. 확률적 교란 방법은 EBP 학습에 의하여 국부적 최적해에 수렴한 경우로부터 탈출하기 위하여 은닉 노드들과 관계된 가충치들을 확률적으로 재 초기화한다. 또한 새로운 은닉 노드의 추가 방법 역시 확률적 가중치 교란의 특별한 경우로 볼 수 있다. 따라서 확률적 교란을 통하여 국부적 최적해 문제 및 신경망 구조 설계 문제를 일관된 방법으로 해결할 수 있다. Horseshoes 문제, parity 문제, two-spirals 문제, 그리고 credit-screening 데이타 등에 대한 실험 결과는 제안한 알고리즘이 매우 효율적임을 보여준다. The Error Back-Propagation(EBP) algorithm is widely applied to train a multi-layer perceptron, which is a neural network model frequently used to solve complex problems such as pattern recognition and adaptive control. However, it suffers from some problems. The EBP is basically a gradient descent method, which may get stuck in a local minimum, leading to failure in finding the globally optimal solution. Moreover, a multi-layer perceptron suffers from lacking a systematic determination of the network structure appropriate for a given problem. It is usually the case to determine the number of hidden nodes by trial and error. In this paper, we propose a new algorithm to efficiently train a multi-layer perceptron. Our algorithm uses stochastic perturbation in the weight space to effectively escape from local minima in multi-layer perceptron learning. Stochastic perturbation probabilistically re-initializes weights associated with hidden nodes to escape a local minimum if the EBP learning gets stuck to it. Addition of new hidden nodes also can be viewed as a special case of stochastic perturbation. Using stochastic perturbation we can solve the local minima problem and the network structure design in a unified way. The results of our experiments with several benchmark test problems including the horseshoes problem, the panty problem, the two-spirals problem, and the credit-screening data show that our algorithm is very efficient.