클러스터링 방법을 이용한 TSK 퍼지추론 시스템의 설계 및 해석

오성권,Oh, Sung-Kwun 한국정보전자통신기술학회 2014 한국정보전자통신기술학회논문지 Vol.7 No.3

본 논문에서는 주어진 데이터 전처리를 통한 새로운 형태의 TSK기반 퍼지 추론 시스템을 제안한다. 제안된 모델은 주어진 데이터의 효율적인 처리를 위해 클러스터링 기법인 Fuzzy C-Means 클러스터링 방법을 이용하였다. 제안된 새로운 형태의 퍼지추론 시스템의 전반부는 FCM 을 통하여 정규화된 멤버쉽 함수와 클러스터 수를 결정하기 때문에, 멤버쉽함수의 형태 및 개수를 정의할 필요가 없어, 모델의 구조 또한 간단한 형태를 이룬다. 본 논문에서 사용된 후반부는 4가지 형태로-간략추론, 1차선형추론, 2차선형추론, 변형된 2차선형추론-가 있으며, 이는 효율적인 후반부구조를 찾는데 주도적인 역할을 한다. 또한 제안된 모델의 후반부 파라미터 계수는 Weighted Least Squares Estimation(WLSE)을 사용하여 동정하며, Least Squares Estimation(LSE)를 적용한 모델의 성능과 비교한다. 마지막으로, Boston housing 데이터를 사용하여 제안된 모델의 성능을 평가하였다. We introduce a new architecture of TSK-based fuzzy inference system. The proposed model used fuzzy c-means clustering method(FCM) for efficient disposal of data. The premise part of fuzzy rules don't assume any membership function such as triangular, gaussian, ellipsoidal because we construct the premise part of fuzzy rules using FCM. As a result, we can reduce to architecture of model. In this paper, we are able to use four types of polynomials as consequence part of fuzzy rules such as simplified, linear, quadratic, modified quadratic. Weighed Least Square Estimator are used to estimates the coefficients of polynomial. The proposed model is evaluated with the use of Boston housing data called Machine Learning dataset.

하이브리드 퍼지제어기의 설계를 위한 최적 자동동조알고리즘

김중영,이대근,오성권 圓光大學校大學院 1999 論文集 Vol.23 No.-

본 논문은 퍼지-뉴럴네트워크에 기반을 둔 비성형과 복잡한 시스템의 최적 동정 방법을 소개한다. FNN은 퍼지 추론 방법으로 간략추론을, 학습 규칙으로 오류 역전파 알고리즘을 사용한다. 본 논문에서 FNN은 비선형 시스템을 위해 HCM 클러스터링 알고리즘과 두 종류의 최적화 이론의 결합에 의한 최적 동정 알고리즘 구조를 이용하여 파라미터 동정을 수행한다. 멤버쉽함수의 초기 파라미터는 HCM 클러스터링 알고리즘을 이용하여 찾는다. 멤버쉽함수의 파라미터, 학습률, 모멤템계수 등은 최적 동정 알고리즘을 사용하여 조정한다. 제안된 최적 동정 알고리즘은 유전자 알고리즘과 개선된 콤플렉스 알고리즘을 이용한다. 또한, 모델의 근사화와 일반화 능력 사이에 합리적 균형을 얻기 위해 하중값을 가진 합성 목적함수(성능지수)를 제안한다. 데이터 개수, 비선형성의 정도(입출력 데이터 분포)에 의존하는 이 합성 목표함수의 하중값의 선택, 조절을 통하여, 근사화 및 일반화 능력 사이의 상호균형과 의존성을 가진 최적 FNN 모델구조를 설계하는 것이 유용하고 효과적임을 보인다. 제안된 모델을 평가하기 위해 가스로의 시계열 데이터와 수리공정을 사용한다. This paper suggest an optimal identification method to complex and nonlinear system modeling that is based on Fuzzy-Neural Network(FNN). The FNNs use the simplified inference as fuzzy inference method and Error Back Propagation Algorithm as learning rule. In this paper, the FNN modeling implements parameter identification using HCM algorithm and optimal identification algorithm structure combined with two types of optimization theories for nonlinear systems, we use a HCM(Hard C-Means) Clustering Algorithm to find initial-parameters of membership function. The parameters such as parameters of membership functions, learning rates and momentum coefficients are adjusted using optimal identification algorithm. The proposed optimal identification algorithm is carried out using both a genetic algorithm and the improved complex method. Also, an aggregate objective function(performance index) with weighted value is proposed to achieve a sound balance between approximation and generalization abilities of the model. According to selection and adjustment of a weighting factor of an aggregate objective function which depends on the number of data and a certain degree of nonlinearity (distribution of I/O data), we show that it is available and effective to design an optimal FNN model structure with a mutual balance and dependency between approximation and generalization abilities. To evaluate the performance of the proposed model, we use the time series data for gas furnace and the data of sewage treatment process.

Fuzzy Identification by Means of an Auto-Tuning Algorithm and a Weighted Performance Index

오성권,Oh, Sung-Kwun Korean Institute of Intelligent Systems 1998 한국지능시스템학회논문지 Vol.8 No.6

The study concerns a design procedure of rule-based systems. The proposed rule-based fuzzy modeling implements system structure and parameter identification in the efficient from of "IF..., THEN..." statements, and exploits the theory of system optimization and fuzzy implication rules. The method for rule-based fuzzy modeling concerns the from of the conclusion part of the the rules that can be constant. Both triangular and Gaussian-like membership function are studied. The optimization hinges on an autotuning algorithm that covers as a modified constrained optimization method known as a complex method. The study introduces a weighted performance index (objective function) that helps achieve a sound balance between the quality of results produced for the training and testing set. This methodology sheds light on the role and impact of different parameters of the model on its performance. The study is illustrated with the aid of two representative numerical examples.

하이브리드 동정 알고리즘에 의한 최적 퍼지 시스템에 관한 연구

오성권 한국지능시스템학회 1999 한국지능시스템학회논문지 Vol.9 No.5

복잡하고 비선형적인 시스템의 규칙베이스 퍼지모델링을 위하여 퍼지시스템의 최적 동정알고리즘을 연구한다. 비선형 시스템은 퍼지모델의 입력변수와 퍼지 입력공간 분할에 의한 구조동정과 파라미터 동정을 통해 표현된다. 본 논문에서 규칙베이스 퍼지모델링은 비선형 시스템을 위해 퍼지추론방법과 두 종류의 최적화 이론의 결합에 의한 하이브리드 구졸를 이용하여 시스템 구조와 파라미터동정을 수행한다. 퍼지모델의 추론방법은 간략추론 및 선형추론에 의한다. 제안된 하이브리드 최적 동정 알고리즘은 유전자 알고리즘과 개선된 콤플렉스 방법을 이용한다. 여기서 유전자 알고리즘은 전반부 퍼지규칙의 멤버쉽함수의 초기 파라미터들을 결정하기 위해 사용되고 강력한 자동동조 알고리즘인 개선된 콤플렉스 방법은 정교한 파라미터들을 얻기 위해 수행된다. 따라서 최적 퍼지모델을 위해 전반부 파라미터 동정에는 하이브리드형의 최적 알고리즘을 이용하고 후반부 동정에는 최소자승법을 이용한다. 또한 학습과 테스트 데이터에 의해 생성된 퍼지모델의 성능결과 사이의 상호균형을 얻기 위해 하중계수를 가지는 합성 성능지수를 제안한다. 제안된 모델의 성능평가를 위해 두가지 수치적 예를이용한다. The optimal identification algorithm of fuzzy systems is presented for rule-based fuzzy modeling of nonlinear complex systems. Nonlinear systems are expressed using the identification of structure such as input variables and fuzzy input subspaces, and parameters of a fuzzy model. In this paper, the rule-based fuzzy modeling implements system structure and parameter identification using the fuzzy inference methods and hybrid structure combined with two types of optimization theories for nonlinear systems. Two types of inference methods of a fuzzy model are the simplified inference and linear inference. The proposed hybrid optimal identification algorithm is carried out using both a genetic algorithm and the improved complex method. Here, a genetic algorithm is utilized for determining initial parameters of membership function of premise fuzzy rules, and the improved complex method which is a powerful auto-tuning algorithm is carried out to obtain fine parameters of membership function. Accordingly, in order to optimize fuzzy model, we use the optimal algorithm with a hybrid type for the identification of premise parameters and standard least square method for the identification of consequence parameters of a fuzzy model. Also, an aggregate performance index with weighting factor is proposed to achieve a balance between performance results of fuzzy model produced for the training and testing data. Two numerical examples are used to evaluate the performance of the proposed model.

컴플렉스 및 유전자 알고리즘을 결합한 최적 알고리즘에 의한 퍼지-뉴럴 네트워크구조의 설계

윤기찬,오성권 圓光大學校大學院 1999 論文集 Vol.23 No.-

본 논문은 퍼지-뉴럴네트워크에 기반을 둔 비성형과 복잡한 시스템의 최적 동정 방법을 소개한다. FNN은 퍼지 추론 방법으로 간략추론을, 학습 규칙으로 오류 역전파 알고리즘을 사용한다. 본 논문에서 FNN은 비선형 시스템을 위해 HCM 클러스터링 알고리즘과 두 종류의 최적화 이론의 결합에 의한 최적 동정 알고리즘 구조를 이용하여 파라미터 동정을 수행한다. 멤버쉽함수의 초기 파라미터는 HCM 클러스터링 알고리즘을 이용하여 찾는다. 멤버쉽함수의 파라미터, 학습률, 모멤템계수 등은 최적 동정 알고리즘을 사용하여 조정한다. 제안된 최적 동정 알고리즘은 유전자 알고리즘과 개선된 콤플렉스 알고리즘을 이용한다. 또한, 모델의 근사화와 일반화 능력 사이에 합리적 균형을 얻기 위해 하중값을 가진 합성 목적함수(성능지수)를 제안한다. 데이터 개수, 비선형성의 정도(입출력 데이터 분포)에 의존하는 이 합성 목표함수의 하중값의 선택, 조절을 통하여, 근사화 및 일반화 능력 사이의 상호균형과 의존성을 가진 최적 FNN 모델구조를 설계하는 것이 유용하고 효과적임을 보인다. 제안된 모델을 평가하기 위해 가스로의 시계열 데이터와 수리공정을 사용한다. This paper suggest an optimal identification method to complex and nonlinear system modeling that is based on Fuzzy-Neural Network(FNN). The FNNs use the simplified inference as fuzzy inference method and Error Back Propagation Algorithm as learning rule. In this paper, the FNN modeling implements parameter identification using HCM algorithm and optimal identification algorithm structure combined with two types of optimization theories for nonlinear systems, we use a HCM(Hard C-Means) Clustering Algorithm to find initial-parameters of membership function. The parameters such as parameters of membership functions, learning rates and momentum coefficients are adjusted using optimal identification algorithm. The proposed optimal identification algorithm is carried out using both a genetic algorithm and the improved complex method. Also, an aggregate objective function(performance index) with weighted value is proposed to achieve a sound balance between approximation and generalization abilities of the model. According to selection and adjustment of a weighting factor of an aggregate objective function which depends on the number of data and a certain degree of nonlinearity (distribution of I/O data), we show that it is available and effective to design an optimal FNN model structure with a mutual balance and dependency between approximation and generalization abilities. To evaluate the performance of the proposed model, we use the time series data for gas furnace and the data of sewage treatment process.

퍼지-뉴럴 모델링과 비선형 공정 모델의 최적화

오성권,노석범,황형수,박희순 제어로봇시스템학회 1995 제어로봇시스템학회 국내학술대회 논문집 Vol.1 No.2

GMDH 방법에 의한 FPNN 일고리즘과 폐스처리공정에의 응용

오성권,황형수,안태천,Oh, Sung-Kwon,Hwang, Hyung-Soo,Ahn, Tae-Chon 한국지능시스템학회 1997 한국지능시스템학회논문지 Vol.7 No.2

본 논문에서는 복잡한 비선형 시스템의 모델동정을 위해 퍼지모델링의 새로운 방법이 제안된다. 제안된 FPNN모델링은 공정시스템의 입출력 데이터로부터 GMDH방법과 퍼지구현규칙을 이용하여 시스템의 구조와 파라미터 동정을 구현한다. 퍼지구현규칙의 전반부 구조와 파라미터 동정을 위하여 GMDH 방법과 희귀다항식 퍼지추론 방법이 사용되고 최적 후반부 파라미터 동정을 위하여 최소자승법이 사용된다. 가스로 시계열데이타 및 하수처리시스템의 활성화의 공정 데이터가 제안한 FPNN 모델링의 성능을 평가하기 위해 상용된다. 제안된 방법이 기존의 다른 논문과 비교하여 더 높은 정확도를 가진 지능형 모델을 생성함을 보인다. In this paper, A new design method of fuzzy modeling is presented for the model identification of nonlinear complex systems. The proposed FPNN(Fuzzy Polynomial Neural Network) modeling implements system structure and parameter identification using GMDH(Group Method of Data Handling) method and linguistic fuzzy implication rules from input and output data of processes. In order to identify premise structure and parameter of fuzzy implication rules, GMDH method and regression polynomial fuzzy reasoning method are used and the least square method is utilized for the identification of optimum consequence parameters. Time series data for gas furnace and those for wastewater treatment process are used for the purpose of evaluating the performance of the proposed FPNN modeling. The results show that the proposed method can produce the fuzzy model with higher accuracy than other works achieved previously.

다층 퍼지 추론 시스템의 FPNN 알고리즘

박호성,박병준,오성권 圓光大學校大學院 1999 論文集 Vol.23 No.-

본 논문은 복잡한 비선형 시스템의 모델동정을 위해 다층 퍼지 추론 구조를 가지는 FPNN(Fuzzy Polynomial Neural Network) 알고리즘을 제안한다. 제안된 FPNN은 PNN(Polynomial Neural Network)과 퍼지 추론 방법을 이용하여 시스템의 구조와 파라미터를 동정한다. PNN은 GMDH(Group Method of Data Handling) 알고리즘의 확장된 구조이고, GMDH에서 사용되는 2차 다항식 이외에 1차, 2차 및 변형된 2차와 같은 여러 형태의 다항식을 이용한다. 퍼지 추론 방법에서는 간략 및 회귀다항식 추론 방법이 이용된다. 여기서 회귀다항식 추론은 1차, 2차 및 변형된 2차 방정식과 같은 다항식을 가진 퍼지 규칙의 후반부 구조에 기초한다. 퍼지 규칙의 전반부는 삼각형과 가우시안 멤버쉽 함수(membership function)를 사용한다. FPNN 구조는 PNN 구조와 퍼지 추론 방법의 상호 결합을 통하여 생성된다. FPNN의 각 노드는 퍼지 규칙으로 정의되고, 그 구조는 일종의 뉴로-퍼지 구조이다. 제안된 모델의 성능 평가를 위해 가스로 데이터를 사용한다. The FPNN structure is generated from the mutual combination of PNN(Polynomial Neural Network) structure and fuzzy inference method. The PNN extended from the GMDPKGroup Method of Data Handling) uses several types of polynomials such as linear, quadratic and modified quadratic besides the biquadratic polynomial used in the GMDH. In the fuzzy inference method, simplified and regression polynomial inference method which is based on the consequence of fuzzy rule expressed with a polynomial such as linear, quadratic and modified quadratic equation are used. Premise of fuzzy rules uses triangular and gaussian membership function. Each node of the FPNN is defined as a fuzzy rule and its structure is a kind of neuro-fuzzy. Gas furnace data used to evaluate the performance of our proposed model.

퍼지 GMDH 알고리즘과 폐수처리 공정 시스템에의 응용

안태천,노석범,황형수,오성권 圓光大學校 1996 論文集 Vol.31 No.2

본 논문에서는 GMDH(Group Method of Data Handling) 알고리즘을 이용하여 퍼지 모델의 구조와 파라미터를 설정하는 알고리즘을 제안하였다. 퍼지 함의 규칙의 전건부 구조와 파라미터를 동정하기 위해 GMDH 알고리즘과 퍼지 추론을 사용하였고 최적의 후건부 파라미터를 동정하기 위해 최소 자승법을 사용하였다. 제안된 모델링 방법의 성능을 평가하기 위해서 가스로 시계열 데이터와 하수처리 데이터를 사용하였다. 제안된 방법을 사용하면 다른 모델에 비해 우수한 성능을 가진 지능 모델을 얻을수 있다. The Proposed fuzzy modeling implements system structure and parameter identification using the GMDH(Group Method of Data Handling) Algorithm. In this method, We use the GMDH algorithm and fuzzy inference to identify the premise structure and parameter of fuzzy implication rules and least square method to identify optimum consequence parameter. Time seris data for gas furnace and wastewatertreatment data are used for purpose of evaluating the performance of the proposed fuzzy.

퍼지추론 방법을 이용한 교통경로선택의 모델링

오성권 圓光大學校 1996 論文集 Vol.31 No.2

퍼지모델링의 설계 방법을 교통경로선택의 모델동정을 위하여 제안한다. 제안된 퍼지모델은 최적화이론, 퍼지구현규칙을 사용하여 "IF... THEN..."의 효율적인 형태로 시스템구조와 파라미터 동정을 시행한다. 이 논문에서 간략추론, 선형추론, 변형된 선형추론의 3가지종류의 퍼지모델링 방법을 제시한다. 이 퍼지추론 방법은 인간의 교통행동의 정확한 추정과 정밀한 묘사를 위해 교통경로선택 모델을 개발하기 위해 이용된다. 퍼지규칙의 전반부 구조와 파라미터를 동정하기 위해 개선된 컴플렉스법을 사용하고, 최적 후반부 파라미터를 동정하기 위해 최소자승법이 사용된다. 교통경로선택 데이타가 제안된 퍼지모델 성능을 평가하기 위해 사용된다. 제안된 방법이 기존의 다른 연구들-즉 BL, PS, FL, NN, FNNs모델 등- 보다 더 높은 정확도를 가진 퍼지모델을 생성함을 보인다. A design method of fuzzy modeling is presented for the model identification of route choice of traffic problems. The proposed fuzzy modeling implements system structure and parameter identification in the efficient form of "IF..., THEN..", using the theories of optimization theory, linguistic fuzzy implication rules. Three kinds of method for fuzzy modeling presented in this paper include simplified inference (type 1), linear inference (type 2), and proposed modified- linear inference (type 3). The fuzzy inference method are utilized to develop the route choice model in terms of accurate estimation and precise description of human travel behavior. In order to identify premise structure and parameter of fuzzy implication rules, improved complex method is used and the least square method is utilized for the identification of optimum consequence parameters. Data for route choice of traffic problems are used to evaluate the performance of the proposed fuzzy modeling. The results show that the proposed method can produce the fuzzy model with higher accuracy than previous other studies-BL(binary logic) model, PS(production system) model, FL(fuzzy logic) model, NN(neural network) model, and FNNs (fuzzy-neural networks) model-.