통합 베이즈 총변이 정규화 방법과 영상복원에 대한 응용

류재흥 한국전자통신학회 2022 한국전자통신학회 논문지 Vol.17 No.1

본 논문은 통합 베이즈 티코노프 정규화 방법을 총변이 정규화에 대한 해법으로 제시한다. 통합된 방법은 총변이 항을 가중된 티코노프 정규화 항으로 변형하여 정규화 모수를 구하는 공식을 제시한다. 정규화 모수를 구하고 이를 바탕으로 새로운 가중인수를 구하는 것을 복원된 영상이 수렴하기까지 반복한다. 실험결과는 영상 복원 문제에 대하여 제안하는 방법의 효능을 보여준다.

영상 복원을 위한 자기 정규화 방법

류재흥 한국전자통신학회 2016 한국전자통신학회 논문지 Vol.11 No.1

This paper suggests a new method of finding regularization parameter for image restoration problems. Wiener filter requires priori information such that power spectrums of original image and noise. Constrained least squares restoration also requires knowledge of the noise level. If the prior information is not available, separate optimization functions for Tikhonov regularization parameter are suggested in the literature such as generalized cross validation and L-curve criterion. In this paper, self-regularization method that connects bias term of augmented linear system and smoothing term of Tikhonov regularization is introduced in the frequency domain and applied to the image restoration problems. Experimental results show the effectiveness of the proposed method. 본 논문은 영상 복원 문제에 대한 정규화 모수를 찾는 새로운 방법을 제시한다. 위너 필터(Wiener filter)는 원본 영상과 잡음의 파워 스펙트럼 등의 사전 정보를 요구한다. 제약된 최소자승 복원 역시 노이즈 수준에 대한 지식을 요구한다. 사전 정보가 없으면 티코노프(Tikhonov) 정규화 모수를 선택하기 위한 일반화된 교차 검증법이나 L자형 곡선 검정 등의 별도의 최적화 함수가 필요하다. 본 논문에서는 주파수 영역에서 선형 시스템의 바이어스 항목과 티코노프 정규화 시스템의 평활화 항목을 연결하는 자기 정규화 방법을 제안하고 영상 복원 문제에 적용한다. 실험결과는 제안하는 방법의 효능을 보여준다.

[동네자치 재정기반 확충을 위한 충남의 제안] “지방자치단체는 목적세보다는 보통세 선호”

류재흥 한국자치학회 2017 월간 주민자치 Vol.70 No.-

주 요소와 독립 요소 분석의 통합에 의한 얼굴 인식

류재흥,김강철,임창균,Yoo Jae-Hung,Kim Kang-Chul,Lim Chang-Gyoon 한국정보통신학회 2006 한국정보통신학회논문지 Vol.10 No.4

기존의 독립 요소 방법에 의한 얼굴인식에서는 주 요소 해석법으로 고유치 크기에 의해 특징을 추출하고 감소된 차원에서 특징 개선을 위한 독립 요소 해석법의 학습을 수행한다. 제거된 특징 공간 내에 필요한 요소가 있는 경우를 고려하지 못한 것이다. 새로운 방법은 독립 요소 해석에 의한 학습을 먼저 시행하고 분리된 데이터를 4차 중심 모멘트에 의한 축적 계수(cumulant)인 커토시스(kurtosis)의 절대값 크기에 의하여 특징을 추출한다. 하지만 독립 요소 방법은 효과적으로 노이즈를 제거하지 못한다. 두 방법의 결합효과는 주 요소 해석법을 노이즈 필터로 사용 할 때 극대화 될 수 있다. 즉 주 요소 해석법을 백색화와 노이즈 필터로 하고 독립 요소 해석법을 특징 추출 방법으로 사용하는 것이다. 실험 결과는 새로운 방법론이 기존의 방법론보다 우수함을 보여준다. In a conventional ICA(Independent Component Analysis) based face recognition method, PCA(Principal Component Analysis) first is used for feature extraction, ICA learning method then is applied for feature enhancement in the reduced dimension. It is not considered that a necessary component can be located in the discarded feature space. In the new ICA(NICA), learning extracts features using the magnitude of kurtosis (4-th order central moment or cumulant). But, the pure ICA method can not discard noise effectively. The synergy effect of PCA and ICA can be achieved if PCA is used for noise reduction filter. Namely, PCA does whitening and noise filtering. ICA performs feature extraction. Experiment results show the effectiveness of the new ICA method compared to the conventional ICA approach.

주 요소와 독립 요소 분석의 통합에 의한 얼굴 인식

류재흥,김강철,임창균 한국정보통신학회 2006 한국정보통신학회논문지 Vol.10 No.5

In a conventional ICA(Independent Component Analysis) based face recognition method, PCA(Principal Component Analysis) first is used for feature extraction, ICA learning method then is applied for feature enhancement in the reduced dimension. It is not considered that a necessary component can be located in the discarded feature space. In the new ICA(NICA), learning extracts features using the magnitude of kurtosis (4-th order central moment or cumulant). But, the pure ICA method can not discard noise effectively. The synergy effect of PCA and ICA can be achieved if PCA is used for noise reduction filter. Namely, PCA does whitening and noise filtering. ICA performs feature extraction. Experiment results show the effectiveness of the new ICA method compared to the conventional ICA approach 기존의 독립 요소 방법에 의한 얼굴인식에서는 주 요소 해석법으로 고유치 크기에 의해 특징을 추출하고 감소된 차원에서 특징 개선을 위한 독립 요소 해석법의 학습을 수행한다. 제거된 특징 공간 내에 필요한 요소가 있는 경우를 고려하지 못한 것이다. 새로운 방법은 독립 요소 해석에 의한 학습을 먼저 시행하고 분리된 데이터를 4차 중심 모멘트에 의한 축적계수(cumulant)인 커토시스(kurtosis)의 절대값 크기에 의하여 특징을 추출한다. 하지만 독립 요소 방법은 효과적으로 노이즈를 제거하지 못한다. 두 방법의 결합효과는 주 요소 해석법을 노이즈 필터로 사용 할 때 극대화 될 수 있다. 즉 주 요소 해석법을 백색화와 노이즈 필터로 하고 독립 요소 해석법을 특징 추출 방법으로 사용하는 것이다. 실험 결과는 새로운 방법론이 기존의 방법론보다 우수함을 보여준다.

통합 측도를 사용한 주성분해석 부공간에서의 k-평균 군집화 방법

류재흥 한국전자통신학회 2022 한국전자통신학회 논문지 Vol.17 No.4

K-means clustering is a representative clustering technique. However, there is a limitation in not being able to integrate the performance evaluation scale and the method of determining the minimum number of clusters. In this paper, a method for numerically determining the minimum number of clusters is introduced. The explained variance is presented as an integrated measure. We propose that the k-means clustering method should be performed in the subspace of the PCA in order to simultaneously satisfy the minimum number of clusters and the threshold of the explained variance. It aims to present an explanation in principle why principal component analysis and k-means clustering are sequentially performed in pattern recognition and machine learning.

$Cl_2/Ar$ 유도 결합 플라즈마에서 Pt 박막 식각시 $N_2$ 가스 첨가 효과

류재흥,김남훈,장의구,김창일,Ryu, Jae-Heung,Kim, Nam-Hoon,Chang, Eui-Goo,Kim, Chang-Il 대한전자공학회 2000 電子工學會論文誌-SD (Semiconductor and devices) Vol.37 No.7

본 연구에서는 Pt 박막을 식각하기 이하여 기존에 최적화된 가스 혼합비인 $Cl_2$(10)Ar (90)에 $N_2$ 가스를 첨가하기 실험하였다. $Cl_2$(10)/Ar(90)의 가스 혼합비에 20% $N_2$가스 첨가시, $SiO_2$ 마스크에 대한 Pt 박막의 선택비 향상으로 70$^{\circ}$ 이상의 식각 프로파일을 얻을 수 있었다. 이는 $SiO_2$ 마스크 위에 Si-N, Si-O-N과 같은 차단막 생성을 통한 결과로 확인 되어졌다. $SiO_2$ 마스크에 대한 Pt 박막의 최대 선택비와 식각률은 각각 1.71과 4125 ${\AA}$/min 이다. 이는 Pt-N, Pt-N-Cl과 같은 휘발성 화합물의 생성을 통한 결과로 판단된다. In this study, the effects of the addition of $N_2$ gas into the $Cl_2$ (90)/Ar(10) gas mixture, which has been proposed as the optimized etching gas combination, for etching of platinum was performed. The selectivity of platinum film to $SiO_2$ film etch mask increased with the addition of $N_2$ gas, and etch profile over 75 $^{\circ}$ could be obtained when 20 % additive $N_2$ gas was added. These phenomena were interpreted as the results of a formation of blocking layer such as Si-N or Si-O-N on the $SiO_2$ mask. The maximum etch rate of Pt film and selectivity of Pt to $SiO_2$ are 1425 ${\AA}$/min and 1.71, respectively. These improvements were considered to be due to the formation of more volatile compounds such as Pt-N or Pt-N-Cl.

통합 베이즈 티코노프 정규화 방법의 확장과 영상복원에 대한 응용

류재흥(Jae Hung Yoo) 한국전자통신학회 2020 한국전자통신학회 논문지 Vol.15 No.1

본 논문은 통합 베이즈 티코노프 정규화 방법을 확장하는 것을 제시한다. 통합된 방법은 티코노프 정규화 모수와 베이즈 하이퍼 모수들의 관계를 정립하고 최대 사후 확률과 근거 프레임워크를 사용한 정규화 모수를 구하는 공식을 제시한다. 데이터 행렬의 차원이 m by n (m >= n)일 때, total misfit는 기존의 m에서 m ± n로 확장된다. 따라서 탐색 범위도 1에서 2n+1개의 정수로 확장된다. 선형 탐색보다는 황금분할 탐색으로 시간을 줄인다. 상대오차를 최적화하는 새로운 벤치마크를 제안하고 이를 목표로 하는 새 모델 선택 판정기준을 소개한다. 실험결과는 영상 복원 문제에 대하여 제안하는 방법의 효능을 보여준다. This paper suggests an extension of the unified Bayesian Tikhonov regularization method. The unified method establishes the relationship between Tikhonov regularization parameter and Bayesian hyper-parameters, and presents a formula for obtaining the regularization parameter using the maximum posterior probability and the evidence framework. When the dimension of the data matrix is m by n (m >= n), we derive that the total misfit has the range of m ± n instead of m. Thus the search range is extended from one to 2n + 1 integer points. Golden section search rather than linear one is applied to reduce the time. A new benchmark for optimizing relative error and new model selection criteria to target it are suggested. The experimental results show the effectiveness of the proposed method in the image restoration problem.

커널 이완 절차에 의한 커널 공간의 저밀도 표현 학습

류재흥(Jae Hung Yoo),정종철(Jong Cheol Jeong) 한국지능시스템학회 2001 한국지능시스템학회논문지 Vol.11 No.9

본 논문은 분류 문제의 훈련 패턴으로부터 형성되는 커널 공간의 저밀도 표현을 가능하게 하는 커널 방법에 대한 새로운 학습방법론을 제안한다. 선형 판별 함수에 대한 기존의 학습법 중에서 이완 절차가 SVM(Support Vector Machine) 분류기와 동등하게 선형분리 가능 패턴분류 문제의 최대 마진 분리 초평면을 얻을 수 있다. 기존의 이완 절차는 지원 벡터에 대한 필요 조건을 만족한다. 본 논문에서는 학습 중 지원 벡터를 확인하기 위한 충분 조건을 제시한다. 순차적 학습을 위하여 기존의 SVM을 확장하고 커널 판별함수를 정의한 후에 체계적인 학습방법을 제시한다. 실험 결과는 새 방법이 기존의 방법과 동등하거나 우수한 분류 성능을 갖고있음을 보여준다. In this paper, a new learning methodology for kernel methods that results in a sparse representation of kernel space from the training patterns for classification problems is suggested. Among the traditional algorithms of linear discriminant function, this paper shows that the relaxation procedure can obtain the maximum margin separating hyperplane of linearly separable pattern classification problem as SVM(Support Vector Machine) classifier does. The original relaxation method gives only the necessary condition of SV patterns. We suggest the sufficient condition to identify the SV patterns in the learning epochs. For sequential learning of kernel methods, extended SVM and kernel discriminant function are defined. Systematic derivation of learning algorithms is introduced. Experiment results show the new methods have the higher or equivalent performance compared to the conventional approach.

신경 회로망 학습을 통한 모델 선택의 자동화

류재흥(Jae Hung Yoo) 한국지능시스템학회 2004 한국지능시스템학회 학술발표 논문집 Vol.14 No.2

Model selection is the process that sets up the regularization parameter in the support vector machine or regularization network by using the external methods such as general cross validation or L-curve criterion. This paper suggests that the regularization parameter can be obtained simultaneously within the learning process of neural networks without resort to separate selection methods. In this paper, extended kernel method is introduced. The relationship between regularization parameter and the bias term in the extended kernel is established. Experimental results show the effectiveness of the new model selection method.