효율적인 학습규칙의 신경망 기반 독립성분분석을 이용한 영상신호의 분리 및 특징추출

조용현,Cho, Yong-Hyun 한국지능시스템학회 2003 한국지능시스템학회논문지 Vol.12 No.2

본 연구에서는 효율적인 학습규칙의 신경망 기반 독립성분분석기법을 이용한 영상신호의 분리와 특징추출을 제안하였다. 제안된 학습규칙은 할선법과 모멘트를 이용한 조합형 고정점 학습알고리즘이다. 여기서 할선법은 독립성분 상호간의 정보를 최소화하기 위한 목적함수의 최적화 과정에서 요구되는 1차 미분에 따른 계산을 간략화하기 위함이고, 모멘트는 최적화 과정에서 발생하는 발진을 억제하여 보다 빠른 학습을 위함이다. 제안된 기법을 $512\times512$의 픽셀을 가지는 10개의 영상을 대상으로 임의의 혼합행렬에 따라 발생되는 혼합영상의 분리에 적용한 결과, 뉴우턴법에 기초한 기존의 알고리즘과 할선법만에 기초한 알고리즘보다 각각 우수한 분리률과 빠른 분리속도가 있음을 확인하였다. 또한 $256\times256$ 픽셀의 10개 지문상과 $480\times225$ 픽셀의 지폐영상에서 선택된 각각 10,000개의 3가지 영상패치들을 대상으로 적용한 결과, 제안된 기법은 뉴우턴법이나 할선법의 알고리즘보다도 빠른 특징추출 속도가 있음을 확인하였다. 한편 추출된 $16\times16$ 펙셀의 160개 독립성분 기저벡터 각각은 영상 각각에 포함된 공간적인 주파수 특성과 방향성을 가지는 경계 특성이 잘 드러나는 국부적인 특징들임을 확인하였다. This paper proposes a separation and feature extraction of image signals using the independent component analysis(ICA) based on neural networks of efficient learning rule. The proposed learning rule is a hybrid fixed-point(FP) algorithm based on secant method and momentum. Secant method is applied to improve the performance by simplifying the 1st-order derivative computation for optimizing the objective function, which is to minimize the mutual informations of the independent components. The momentum is applied for high-speed convergence by restraining the oscillation in the process of converging to the optimal solution. The proposed algorithm has been applied to the composite images generated by random mixing matrix from the 10 images of $512\times512$-pixel. The simulation results show that the proposed algorithm has better performances of the separation speed and rate than those using the FP algorithm based on Newton and secant method. The proposed algorithm has been also applied to extract the features using a 3 set of 10,000 image patches from the 10 fingerprints of $256\times256$-pixel and the front and the rear paper money of $480\times225$-pixel, respectively, The simulation results show that the proposed algorithm has also better extraction speed than those using the another methods. Especially, the 160 basis vectors(features) of $16\times16$-pixel show the local features which have the characteristics of spatial frequency and oriented edges in the images.

대기경험이 주제공원 이용자의 만족도에 미치는 영향

조용현,김란희,Cho Yong-Hyun,Kim Nan-Hee 한국조경학회 2005 韓國造景學會誌 Vol.33 No.3

Despite there have been m?my studies about the relationships between congestions and satisfaction in outdoor recreation field, the results indicated only weak impacts of congestions on the satisfaction. This study thus aims to investigate the influence of waiting situation on the whole valuation and satisfaction of guests at theme parks using new variables such as 'goal attainment' and then to suggest implications for waiting management. This study shows meaningful theoretical implications. First, congestion influences the satisfaction more strongly when it prevents guests from achieving their plan. Second, management of waiting time is important and the can be controlled well. When guests have something interested during the waiting time, they were satisfied with the quality of waiting time and overall experience in the theme park.

적응적 학습 파라미터의 고정점 알고리즘에 의한 독립성분분석의 성능개선

조용현,민성재,Cho, Yong-Hyun,Min, Seong-Jae 한국정보처리학회 2003 정보처리학회논문지B Vol.10 No.4

This paper proposes an efficient fixed-point (FP) algorithm for improving performances of the independent component analysis (ICA) based on neural networks. The proposed algorithm is the FP algorithm based on Newton method for ICA using the adaptive learning parameters. The purpose of this algorithm is to improve the separation speed and performance by using the learning parameters in Newton method, which is based on the first order differential computation of entropy optimization function. The learning rate and the moment are adaptively adjusted according to an updating state of inverse mixing matrix. The proposed algorithm has been applied to the fingerprints and the images generated by random mixing matrix in the 8 fingerprints of 256${\times}$256-pixel and the 10 images of 512$\times$512-pixel, respectively. The simulation results show that the proposed algorithm has the separation speed and performance better than those using the conventional FP algorithm based on Newton method. Especially, the proposed algorithm gives relatively larger improvement degree as the problem size increases. 본 연구에서는 뉴우턴법의 고정점 알고리즘에 적응 조정이 가능한 학습 파라미터를 이용한 효율적인 신경망 기반 독립성분분석기법을 제안하였다. 이는 엔트로피 최적화 함수의 1차 미분을 이용하는 뉴우턴법의 고정점 알고리즘에서 학습율과 모멘트를 역혼합행렬의 경신 상태에 따나 적응조정되도록 함으로써 분리속도와 분리성능을 개선시키기 위함이다 제안된 기법을 256$\times$256 픽셀의 8개 지문과 512$\times$512 픽셀의 10개 영상으로부터 임의의 혼합행렬에 따라 발생되는 지문과 영상의 분리에 적용한 결과, 기존의 고정점 알고리즘에 의한 결과보다 우수한 분리성능과 빠른 분리속도가 있음을 확인하였다. 특히 제안된 알고리즘은 문제의 규모가 클수록 분리성능과 분리속도의 개선 정도가 큼을 확인하였다.

영상의 1차 모멘트와 기저영상을 이용한 효율적인 얼굴인식

조용현,Cho Yong-Hyun 한국정보처리학회 2006 정보처리학회논문지B Vol.13 No.1

본 논문에서는 영상의 1차 모멘트와 기저영상을 이용한 효율적인 얼굴인식 방법을 제안하였다. 여기서 1차 모멘트는 입력되는 얼굴영상의 중심 좌표를 계산하여 중심 이동하는 전처리로 인식에 불필요한 배경을 배제시킴으로써 인식성능을 개선하기 위함이다. 또한 기저영상은 얼굴의 특징으로 주요성분분석과 고정점 알고리즘의 독립성분분석을 각각 이용하여 추출하였다. 이는 2차와 고차의 통계성을 각각 고려한 중복신호의 제거로 인식성능을 개선하기 위함이다. 제안된 2가지 방법을 각각 64*64 픽셀의 48개(12명*4장) 얼굴영상에 적용하여 city-block, Euclidean, 그리고 negative angle의 3가지 거리 척도를 분류척도로 이용하여 실험하였다. 실험결과, 중심이동의 제안된 방법은 전처리과정을 거치지 않는 기존방법보다 우수한 인식성능이 있음을 확인하였다. 또한 제안된 중심이동의 독립성분분석이 중심이동의 주요성분분석보다 더욱 우수한 인식성능이 있음도 확인하였다. 특히 city-block이 Euclidean이나 negative angle의 거리척도보다 상대적으로 정확하게 유사성을 측정함을 알 수 있었다. This paper presents an efficient face recognition method using both first moment of image and basis images. First moment which is a method for finding centroid of image, is applied to exclude the needless backgrounds in the face recognitions by shifting to the centroid of face image. Basis images which are the face features, are respectively extracted by principal component analysis(PCA) and fixed-point independent component analysis(FP-ICA). This is to improve the recognition performance by excluding the redundancy considering to second- and higher-order statistics of face image. The proposed methods has been applied to the problem for recognizing the 48 face images(12 persons*4 scenes) of 64*64 pixels. The 3 distances such as city-block, Euclidean, negative angle are used as measures when match the probe images to the nearest gallery images. The experimental results show that the proposed methods has a superior recognition performances(speed, rate) than conventional PCA and FP-ICA without preprocessing, the proposed FP-ICA has also better performance than the proposed PCA. The city-block has been relatively achieved more an accurate similarity than Euclidean or negative angle.

첨도에 의한 분석성분의 군집성을 고려한 독립성분분석

조용현,Cho, Yong-Hyun 한국정보처리학회 2004 정보처리학회논문지B Vol.11 No.4

본 논문에서는 침도를 추가한 뉴우턴법과 할선법에 기초한 고정점 알고리즘의 독립성분분석을 각각 제안하였다. 여기서 첨도의 추가는 유사한 속성을 가지는 성분의 군집화된 분석순서를 얻기 위함이고, 고정점 알고리즘은 학습파라미터와 무관한 빠른 성분분석과 우수한 분석성능을 얻기 위함이다. 제안된 두 가지 독립성분분석 각각을 500개 샘플을 가지는 6개의 혼합신호와 $512\times512$ 픽셀을 가지는 10개의 혼합영상 분리에 각각 적용한 결과, 제안된 두 가지 기법은 항상 일정한 분석순서를 유지하여 첨도가 추가되지 않은 기존의 기법들에서 알고리즘의 수행 때마다 랜덤하게 변하는 분석순서의 제약을 해결할 수 있었다. 특히 군집화의 속성을 가진 제안된 독립성분분석들은 신호나 영상의 분류나 식별에도 적용할 수 있다. 한편 할선법의 제안된 기법이 뉴우턴법의 제안된 기법보다 빠르면서도 우수한 분리성능이 있음을 확인하였다. This paper proposes an independent component analyses(ICAs) of the fixed-point (FP) algorithm based on Newton and secant method by adding the kurtosis, respectively. The kurtosis is applied to cluster the analyzed components, and the FP algorithm is applied to get the fast analysis and superior performance irrelevant to learning parameters. The proposed ICAs have been applied to the problems for separating the 6-mixed signals of 500 samples and 10-mixed images of $512\times512$ pixels, respectively. The experimental results show that the proposed ICAs have always a fixed analysis sequence. The results can be solved the limit of conventional ICA without a kurtosis which has a variable sequence depending on the running of algorithm. Especially. the proposed ICA can be used for classifying and identifying the signals or the images. The results also show that the secant method has better the separation speed and performance than Newton method. And, the secant method gives relatively larger improvement degree as the problem size increases.

조합형 고정점 알고리즘에 의한 신경망 기반 독립성분분석

조용현,Cho, Yong-Hyun 한국정보처리학회 2002 정보처리학회논문지B Vol.9 No.5

본 연구에서는 신경망 기반 독립성분분석의 분리성능을 개선하기 위해 할선법과 모멘트의 조합형 고정점 알고리즘을 제안하였다. 할선법은 독립성분 상호간의 정보를 최소화하는 목적함수의 근을 근사적으로 구함으로써 계산과정을 단순화하여 좀 더 개선된 분리성능을 얻기 위함이고, 모멘트는 계산과정에서 발생하는 발진을 억제하여 보다 빠른 분리속도를 얻기 위함이다. 이렇게 하면 할선법이 가지는 근사성에 따른 우수성과 과거의 속성을 반영하여 발진을 억제하는 모멘트의 우수성을 동시에 살릴 수 있다. 제안된 알고리즘을 $256\times{256}$ 픽셀의 8개 지문과 $512\times{512}$ 픽셀의 10개 영상으로부터 임의의 혼합행렬에 따라 생성된 복합지문과 복합영상을 각각 대상으로 시뮬레이션 한 결과, 뉴우턴법에 기초한 기존의 알고리즘과 할선법만에 기초한 알고리즘보다 각각 우수한 분리률과 빠른 분리속도가 있음을 확인하였다. 또한 할선법의 이용은 뉴우턴법을 이용한 고정점 알고리즘보다 초기값에도 덜 의존하며, 문제의 규모가 커짐에 따른 비현실적인 분리시간도 해결할 수 있음을 확인하였다. This paper proposes an efficient hybrid fixed-point (FP) algorithm for improving performances of the independent component analysis (ICA) based on neural networks. The proposed algorithm is the FP algorithm based on secant method and momentum for ICA. Secant method is applied to improve the separation performance by simplifying the computation process for estimating the root of objective function, which is to minimize the mutual informations of the independent components. The momentum is applied for high-speed convergence by restraining the oscillation if the process of converging to the optimal solution. It can simultaneously achieve a superior properties of the secant method and the momentum. The proposed algorithm has been applied to the composite fingerprints and the images generated by random mixing matrix in the 8 fingerprints of $256\times{256}$-pixel and the 10 images of $512\times{512}$-pixel, respectively. The simulation results show that the proposed algorithm has better performances of the separation speed and rate than those using the FP algorithm based on Newton and secant method. Especially, the secant FP algorithm can be solved the separating performances depending on initial points settings and the nonrealistic learning time for separating the large size images by using the Newton FP algorithm.

고정점 알고리즘과 시간적 상관성의 적응조정 견실 알고리즘을 조합한 독립성분분석

조용현,오정은,Cho, Yong-Hyun,Oh, Jeung-Eun 한국정보처리학회 2004 정보처리학회논문지B Vol.11 No.2

본 논문에서는 고정점 알고리즘과 신호의 시간적 상관성을 적응 조정한 견실 알고리즘의 조합형 독립성분분석을 제안하였다. 여기서 고정점 알고리즘은 뉴우턴법의 경신규칙에 기초한 방법으로 빠른 분석속도와 우수한 분석성능을 얻기 위함이고, 견실 알고리즘은 시간적 상호 의존성이나 낮은 쿠토시스를 가지는 신호도 효과적으로 분석하기 위함이다. 특히 견실 알고리즘에서 경험적으로 설정되던 최대지연시간을 신호상호간의 자기상관함수를 이용하여 적응 조정되도록 함으로써 그 성능을 더욱 더 개선하였다. 제안된 독립성분분석을 500개 샘플을 가시는 4개의 신호와 $512\times512$ 픽셀의 10개 영상으로부터 임의의 혼합행렬에 따라 발생되는 혼합신호와 혼합영상 각각의 분리에 적용한 결과, 고정점 알고리즘의 독립성분분석 및 고정점 알고리즘과 최대시간지연을 경험적으로 설정하는 기존의 견실 알고리즘을 단순히 조합한 독립성분분석에 비해 분리속도와 분리률에서 개선된 성능이 있음을 확인하였다. 특히 문제의 규모가 증가할수록 분석성능의 개선정도도 증가함을 확인하였다. This paper proposes a hybrid independent component analysis(ICA) of fixed-point(FP) algorithm and robust algorithm. The FP algorithm is applied for improving the analysis speed and performance, and the robust algorithm is applied for preventing performance degradations by means of very small kurtosis and temporal correlations between components. And the adaptive adaptation of temporal correlations has been proposed for solving limits of the conventional robust algorithm dependent on the maximum time delay. The proposed ICA has been applied to the problems for separating the 4-mixed signals of 500 samples and 10-mixed images of $512\times512$pixels, respectively. The experimental results show that the proposed ICA has a characteristics of adaptively adapting the maximum time delay, and has a superior separation performances(speed, rate) to conventional FP-ICA and hybrid ICA of heuristic correlation. Especially, the proposed ICA gives the larger degree of improvement as the problem size increases.

주요성분분석에 의한 일반회귀 신경망의 성능개선

조용현,Cho, Yong-Hyun 한국정보처리학회 2000 정보처리논문지 Vol.7 No.11

This paper proposes an efficient method for improving the performance of a general regression neural network by using the feature to the independent variables as the center for partern-layer neurons. The adaptive principal component analysis is applied for extracting, efficiently the fcarures by reducing the dimension of given independent variables. In can acluevc a supertor property of the principal component analysis that converts input data into set of statistically independent features and the general regression neuralnetwork, espedtively. The proposed general regression neural network has been applied to regress the Solow's economy(2-independent variable set) and the wie elephone(1-independent vanable set). The simulation results show that the proposed meural networks have better performances of the regressionfor the lest data, in comparison with those using the means or the weighted means of independent variables. Also,it is affected less by the number of neurons and the scope of the smoothing factor. 본 논문에서는 독립변수들의 특징을 추출하여 패턴층 뉴런의 중앙값을 이용함으로써 일반회귀 신경망의 성능을 개선하는 방법을 제안하였다. 제안된 방법에서는 적응적 학습 알고리즘의 주요성분분석 기법을 이용하여 회귀분석에 이용되는 데이터의 각 독립변수들의 집합으로 변환시키는 특징을 살려 일반회귀 신경망의 성능을 더 개선하기 위함이다. 제안된 기법의 일반회귀 신경망을 2개의 독립변수 집합을 가진 Solow의 경제문제와 4개의 독립변수 집합을 가진 국내 유선전화문제에 각각 적용하여 시뮬레이션한 결과, 중심값을 각 독립변수들의 평균이나 가중평균을 이용하는 일반회귀 신경망에 의한 결과와 비교할 때 더욱 우수한 회귀성능이 있음을 확인할 수 있었다. 그리고 신경망의 뉴런 수나 평활요소의 설정 면에서도 우수한 특성이 있음을 확인할 수 있었다.

할선법의 FP-ICA를 이용한 기하학적 변형에 강건한 디지털영상 워터마킹

조용현,Cho Yong-Hyun 한국정보처리학회 2004 정보처리학회논문지B Vol.11 No.7

본 논문에서는 할선법에 기초한 고정점 알고리즘의 ICA를 이용하여 기하학적 변형에 강건한 디지털 영상의 워터마킹을 제안하였다. 석기서 할선법의 고정점 알고리즘은 빠르면서도 개선된 추출성능을 얻기 위함이고, ICA의 이용은 검출 및 추출 과정에서 워터마크의 위치나 크기 등과 원본 및 키 영상에 대한 사전 지식의 요구를 없애기 위함이다. 제안된 기법을 $256{\times}25$ 픽셀의 원 영상(레나), 키 영상, 그리고 문자 워터마크 및 가우스잡음 워터마크에 각각 적용한 결과, 뉴우턴법의 고정점 알고리즘 ICA 워터마킹보다 빠른 추출시간과 개선된 추출성능이 있음을 확인하였다. 또한 제안된 할선법의 고정점 알고리즘 ICA에 의한 워터마킹은 크기와 회전 및 자름과 같은 기하학적 변형에 견고한 성능이 있음을 확인하였다. 특히 영상들 상호 간에 상관성이 적은 가우스잡음 워터마크가 문자 워터마크에 비해 우수한 추출성능이 있음도 확인하였다. 한편 워터마크의 검출 및 추출과정에 원본 영상들에 대한 사전지식도 요구되지 않았다. This paper proposes a digital image watermarking which is robust to geometric distortions using an independent component analysis(ICA) of fixed-point(FP) algorithm based on secant method. The FP algorithm of secant method is applied for better performance in a separation time and rate, and ICA is applied to reject the prior knowledges for original image, key, and watermark such as locations and size, etc. The proposed method embeds the watermark into the spatial domain of original image The proposed watermarking technique has been applied to lena, key, and two watermarks(text and Gaussian noise) respectively. The simulation results show that the proposed method has higher speed and better rate for extracting the original images than the FP algorithm of Newton method. And the proposed method has a watermarking which is robust to geometric distortions such as resizing, rotation, and cropping. Especially, the watermark of images with Gaussian noise has better extraction performance than the watermark with text since Gaussian noise has lower correlation coefficient than the text to the original and key images. The watermarking of ICA doesn't require the prior knowledge for the original images.

A Fast and Simple Synthesizing Method of $^{18}F$-Flumazenil as Derivative Benzodiazepine Receptor for Epilepsy PET Imaging

조용현,김형우,황기영,임진균,이홍재,우재룡,김현주,Cho, Yong-Hyun,Kim, Hyung-Woo,Hwang, Ki-Young,Lim, Jin-Koon,Lee, Hong-Jae,Woo, Jae-Ryong,Kim, Hyun-Ju The Korean Society of Nuclear Medicine Technology 2008 핵의학 기술 Vol.12 No.2

Department of Nuclear Medicine in Seoul National University Hospital (SNUH) had developed $^{18}F$-Flumazenil as Benzodiazepine receptor imaging agent for PET diagnosis of Epilepsy. But production Activity of $^{18}F$-Flumazenil is decreased owing to this method has difficult synthesis procedures and pretty long synthesis time. In this study, we can modify synthesizing method to have more simple procedure and less spend time and help to increase production Activity. Old method: Radioactivity was produced by cyclotron was captured by QMA cartridge that was activated. Captured radioactivity was eluted into the reaction vial by using kryptofix solution and delivered. After evaporation of eluent, the azeotrophic drying step repeated two times. tosylflumazenil in anhydrous Acetonitrile was added to a reaction vial while bubbling. The reaction mixture was evaporated until the mixture volume was 0.5 mL. Reaction vial washed with 20 % Acetonitrile and that solution went into the reaction vial. The reaction mixture was loaded to the HPLC loop by hand and purified $^{18}F$-Flumazenil by HPLC column. New method: We used $TBAHCO_3$ solution as a eluent. After the eluent was evaporated, tosylflumazenil in anhydrous acetonitrile was added to a reaction vial and the reaction mixture was bubbled for 15 minutes. It was evaporated until the mixture volume became 0.5 mL. It was loaded to the HPLC loop. In old method, $^{18}F$-Flumazenil was synthesized via 6 steps synthesis procedures in 105 minutes with 30~35% synthesizing yield (non-decay correction) and specific activity was about $0.5{\sim}2{\times}10^5$ Ci/mole. In new method, It had 3 steps synthesis procedures in 53 minutes with 40~45% synthesizing yield and specific activity was about $3{\sim}8{\times}10^5$ Ci/mole. This method leads to improve of minimizing synthesis time, increasing synthesis yield and specific activity. While we can load reaction mixture to the HPLC loop, we can expose high radiation field thanks to used by hand.