주 요소와 독립 요소 분석의 통합에 의한 얼굴 인식

류재흥,김강철,임창균,Yoo Jae-Hung,Kim Kang-Chul,Lim Chang-Gyoon 한국정보통신학회 2006 한국정보통신학회논문지 Vol.10 No.4

기존의 독립 요소 방법에 의한 얼굴인식에서는 주 요소 해석법으로 고유치 크기에 의해 특징을 추출하고 감소된 차원에서 특징 개선을 위한 독립 요소 해석법의 학습을 수행한다. 제거된 특징 공간 내에 필요한 요소가 있는 경우를 고려하지 못한 것이다. 새로운 방법은 독립 요소 해석에 의한 학습을 먼저 시행하고 분리된 데이터를 4차 중심 모멘트에 의한 축적 계수(cumulant)인 커토시스(kurtosis)의 절대값 크기에 의하여 특징을 추출한다. 하지만 독립 요소 방법은 효과적으로 노이즈를 제거하지 못한다. 두 방법의 결합효과는 주 요소 해석법을 노이즈 필터로 사용 할 때 극대화 될 수 있다. 즉 주 요소 해석법을 백색화와 노이즈 필터로 하고 독립 요소 해석법을 특징 추출 방법으로 사용하는 것이다. 실험 결과는 새로운 방법론이 기존의 방법론보다 우수함을 보여준다. In a conventional ICA(Independent Component Analysis) based face recognition method, PCA(Principal Component Analysis) first is used for feature extraction, ICA learning method then is applied for feature enhancement in the reduced dimension. It is not considered that a necessary component can be located in the discarded feature space. In the new ICA(NICA), learning extracts features using the magnitude of kurtosis (4-th order central moment or cumulant). But, the pure ICA method can not discard noise effectively. The synergy effect of PCA and ICA can be achieved if PCA is used for noise reduction filter. Namely, PCA does whitening and noise filtering. ICA performs feature extraction. Experiment results show the effectiveness of the new ICA method compared to the conventional ICA approach.

신경 회로망 학습을 통한 모델 선택의 자동화

류재흥(Jae Hung Yoo) 한국지능시스템학회 2004 한국지능시스템학회 학술발표 논문집 Vol.14 No.2

Model selection is the process that sets up the regularization parameter in the support vector machine or regularization network by using the external methods such as general cross validation or L-curve criterion. This paper suggests that the regularization parameter can be obtained simultaneously within the learning process of neural networks without resort to separate selection methods. In this paper, extended kernel method is introduced. The relationship between regularization parameter and the bias term in the extended kernel is established. Experimental results show the effectiveness of the new model selection method.

커널 이완 절차에 의한 커널 공간의 저밀도 표현 학습

류재흥(Jae Hung Yoo),정종철(Jong Cheol Jeong) 한국지능시스템학회 2001 한국지능시스템학회논문지 Vol.11 No.9

본 논문은 분류 문제의 훈련 패턴으로부터 형성되는 커널 공간의 저밀도 표현을 가능하게 하는 커널 방법에 대한 새로운 학습방법론을 제안한다. 선형 판별 함수에 대한 기존의 학습법 중에서 이완 절차가 SVM(Support Vector Machine) 분류기와 동등하게 선형분리 가능 패턴분류 문제의 최대 마진 분리 초평면을 얻을 수 있다. 기존의 이완 절차는 지원 벡터에 대한 필요 조건을 만족한다. 본 논문에서는 학습 중 지원 벡터를 확인하기 위한 충분 조건을 제시한다. 순차적 학습을 위하여 기존의 SVM을 확장하고 커널 판별함수를 정의한 후에 체계적인 학습방법을 제시한다. 실험 결과는 새 방법이 기존의 방법과 동등하거나 우수한 분류 성능을 갖고있음을 보여준다. In this paper, a new learning methodology for kernel methods that results in a sparse representation of kernel space from the training patterns for classification problems is suggested. Among the traditional algorithms of linear discriminant function, this paper shows that the relaxation procedure can obtain the maximum margin separating hyperplane of linearly separable pattern classification problem as SVM(Support Vector Machine) classifier does. The original relaxation method gives only the necessary condition of SV patterns. We suggest the sufficient condition to identify the SV patterns in the learning epochs. For sequential learning of kernel methods, extended SVM and kernel discriminant function are defined. Systematic derivation of learning algorithms is introduced. Experiment results show the new methods have the higher or equivalent performance compared to the conventional approach.

커널 이완절차에 의한 커널 공간의 저밀도 표현 학습

류재흥(Jae Hung Yoo),정종철(Jong Cheol Jeong) 한국지능시스템학회 2001 한국지능시스템학회 학술발표 논문집 Vol.11 No.2

영상 복원을 위한 통합 베이즈 티코노프 정규화 방법

류재흥(Jae Hung Yoo) 한국전자통신학회 2016 한국전자통신학회 논문지 Vol.11 No.11

본 논문은 영상 복원 문제에 대한 정규화 모수를 찾는 새로운 방법을 제시한다. 사전 정보가 없으면 티코노프(Tikhonov) 정규화 모수를 선택하기 위한 일반화된 교차 검증법이나 L자형 곡선 검정 등의 별도의 최적화 함수가 필요하다. 본 논문에서는 티코노프 정규화에 대한 통합된 베이즈 해석을 소개하고 영상 복원 문제에 적용한다. 티코노프 정규화 모수와 베이즈 하이퍼 모수들의 관계를 정립하고 최대 사후 확률과 근거 프레임워크를 사용한 정규화 모수를 구하는 공식을 제시한다. 실험결과는 제안하는 방법의 효능을 보여준다. This paper suggests a new method of finding regularization parameter for image restoration problems. If the prior information is not available, separate optimization functions for Tikhonov regularization parameter are suggested in the literature such as generalized cross validation and L-curve criterion. In this paper, unified Bayesian interpretation of Tikhonov regularization is introduced and applied to the image restoration problems. The relationship between Tikhonov regularization parameter and Bayesian hyper-parameters is established. Update formular for the regularization parameter using both maximum a posteriori(: MAP) and evidence frameworks is suggested. Experimental results show the effectiveness of the proposed method.

통합 베이즈 티코노프 정규화 방법의 확장과 영상복원에 대한 응용

류재흥(Jae Hung Yoo) 한국전자통신학회 2020 한국전자통신학회 논문지 Vol.15 No.1

본 논문은 통합 베이즈 티코노프 정규화 방법을 확장하는 것을 제시한다. 통합된 방법은 티코노프 정규화 모수와 베이즈 하이퍼 모수들의 관계를 정립하고 최대 사후 확률과 근거 프레임워크를 사용한 정규화 모수를 구하는 공식을 제시한다. 데이터 행렬의 차원이 m by n (m >= n)일 때, total misfit는 기존의 m에서 m ± n로 확장된다. 따라서 탐색 범위도 1에서 2n+1개의 정수로 확장된다. 선형 탐색보다는 황금분할 탐색으로 시간을 줄인다. 상대오차를 최적화하는 새로운 벤치마크를 제안하고 이를 목표로 하는 새 모델 선택 판정기준을 소개한다. 실험결과는 영상 복원 문제에 대하여 제안하는 방법의 효능을 보여준다. This paper suggests an extension of the unified Bayesian Tikhonov regularization method. The unified method establishes the relationship between Tikhonov regularization parameter and Bayesian hyper-parameters, and presents a formula for obtaining the regularization parameter using the maximum posterior probability and the evidence framework. When the dimension of the data matrix is m by n (m >= n), we derive that the total misfit has the range of m ± n instead of m. Thus the search range is extended from one to 2n + 1 integer points. Golden section search rather than linear one is applied to reduce the time. A new benchmark for optimizing relative error and new model selection criteria to target it are suggested. The experimental results show the effectiveness of the proposed method in the image restoration problem.

Sol-Gel 법을 이용한 PLT(28) 박막의 제작과 특성

강성준,정양희,류재흥,Kang Seong Jun,Joung Yang Hee,Yoo Jae-hung 한국정보통신학회 2005 한국정보통신학회논문지 Vol.9 No.7

[ $Pb_{0.72}La_{0.28}TiO_3$ ] (PLT(28)) 박막을 sol-gel 법을 이용하여 제작한 후, 그 특성을 조사하여 ULSI DRAM 의 캐패시터 절연막으로서의 적용 가능성을 연구하였다. Sol-gel 법의 출발 물질로는 acetate 계를 사용하였다. TGA-DTA 분석을 통하여 PLT(28) 박막의 sol-gel 법에 의한 공정 조건을 확립하였다. 매 coating 후 $350^{\circ}C$ 에서 drying 하고, 마지막으로 $650^{\circ}C$ 에서 annealing 하여 $100\%$ perovskite 구조를 가지는 치밀하고 crack 이 없는 PLT(28) 박막을 얻었다. $Pt/Ti/SiO_2/Si$ 기판 위에 PLT(28) 박막을 형성하여 전기적 특성을 측정하였다. 그 결과 유전 상수와 누설전류밀도가 각각 936 과 $1.1{\mu}A/cm^2$ 으로 측정되었다. We fabricated the $Pb_{0.72}La_{0.28}TiO_3$ (PLT(28)) thin film successfully by using the sol-gel method and characterized it to evaluate its potential for being utilized as the capacitor dielectrics of ULSI DRAMs. In our sol-gel process, the acetates were used as the starting materials. Through the TGA-DTA analysis, we established the excellent fabrication conditions of the sol-gel method for the PLT(28) thin film. We obtained the dense and crack-free PLT(28) thin film of $100\%$ perovskite phase by drying at $350^{\circ}C$ after each coating and final annealing at $650^{\circ}C$. Electrical properties of PLT(28) thin film were measured through formation on the $Pt/Ti/SiO_2/Si$ substrate and its dielectric constant and leakage current density were measured as 936 and $1.1{\mu}A/cm^2$, respectively.

저해상도 영상 자료를 사용하는 얼굴 표정 인식을 위한 소규모 심층 합성곱 신경망 모델 설계

살리모프 시로지딘(Sirojiddin Salimov),류재흥(Jae Hung Yoo) 한국전자통신학회 2021 한국전자통신학회 논문지 Vol.16 No.1

인공 지능은 놀라운 혜택을 제공하는 우리 삶의 중요한 부분이 되고 있다. 이와 관련하여 얼굴 표정 인식은 최근 수십 년 동안 컴퓨터 비전 연구자들 사이에서 뜨거운 주제 중 하나였다. 저해상도 이미지의 작은 데이터 세트를 분류하려면 새로운 소규모 심층 합성곱 신경망 모델을 개발해야 한다. 이를 위해 소규모 데이터 세트에 적합한 방법을 제안한다. 이 모델은 기존 심층 합성곱 신경망 모델에 비해 총 학습 가능 가중치 측면에서 메모리의 일부만 사용하지만 FER2013 및 FERPlus 데이터 세트에서 매우 유사한 결과를 보여준다. Artificial intelligence is becoming an important part of our lives providing incredible benefits. In this respect, facial expression recognition has been one of the hot topics among computer vision researchers in recent decades. Classifying small dataset of low resolution images requires the development of a new small scale deep CNN model. To do this, we propose a method suitable for small datasets. Compared to the traditional deep CNN models, this model uses only a fraction of the memory in terms of total learnable weights, but it shows very similar results for the FER2013 and FERPlus datasets.

연산지능을 이용한 부진아 영역진단 지원 시스템

임창균(Chang Gyoon Lim),김강철(Kang Chul Kim),류재흥(Jae Hung Yoo),정중하(Jung-Ha Jhung) 한국지능시스템학회 2006 한국지능시스템학회논문지 Vol.16 No.1

본 연구에서는 중학교 국어 교과과정에 있어서 부진아 학생을 위한 부진 영역을 진단을 지원할 수 있는 시스템을 제안하였다. 제안된 시스템을 학교 수업 현장에 적용함으로써 학습부진 학생들의 수준에 맞는 보충ㆍ심화학습이 이루어져 학습결손과 학습부진을 최소화하여 교수ㆍ학습의 목표를 달성하고 학업성취도를 향상시킬 수 있도록 하였다. 이 시스템에서의 입력은 36가지 변수가 제안된 코팅 기법을 이용하여 시스템을 위하여 학습데이터와 테스트데이터가 인코딩된다. 이 인코딩된 변수의 값들은 시스템의 입력 층의 값이 된다. 은닉 층의 뉴런 수는 학습 데이터를 이용하여 학습한 후 가장 좋은 성능을 보여주는 결과를 이용하여 결정하였다. 출력 층의 뉴런 수든 각 영역에 하나의 뉴런을 할당하여 4개의 뉴런을 사용하였다. 본 시스템을 개발하기 위해 다층 퍼셉트론 구조와 오류 역진파 알고리즘을 사용하였다. 영역진단 지원 시스템을 위해 학습 데이터로써 2,008개를 사용하였고, 테스트를 위하여 380개의 데이터를 사용하여 실험한 후 성능을 평가하였다. In this paper, we proposed the system that supports underachievers realm decision of Korean language curriculum in the middle school. Learning disability and stagnation should be minimized by using and applying the proposed system. The input layer of the system contains 36 variables, which can be specific items in the Koran language curriculum. The variables are encoded with the specific coding schemes. The number of nodes in the hidden layer was determined through a series of learning stage with best result. We assigned 4 neurons, which correspond to one realm of the curriculum to output layer respectively. We used the multilayer perceptron and the error back propagation algorithm to develope the system. A total of 2,008 data [or training and 380 for testing were used for evaluating the performance.