Comparison of Weight Initialization Techniques for Deep Neural Networks

강민제,김호찬 국제문화기술진흥원 2019 International Journal of Advanced Culture Technolo Vol.7 No.4

Neural networks have been reborn as a Deep Learning thanks to big data, improved processor, and some modification of training methods. Neural networks used to initialize weights in a stupid way, and to choose wrong type activation functions of non-linearity. Weight initialization contributes as a significant factor on the final quality of a network as well as its convergence rate. This paper discusses different approaches to weight initialization. MNIST dataset is used for experiments for comparing their results to find out the best technique that can be employed to achieve higher accuracy in relatively lower duration.

굴착기에서의 리퍼의 형상에 따른 구조적 내구성 연구

강민제,조재웅 한국융합학회 2014 한국융합학회논문지 Vol.5 No.2

본 연구에서는 굴착기에서의 리퍼의 형상에 따른 구조 및 진동, 피로해석을 하였다. 2가지의 모델들 모두, 작업장치의 바디와 이어지는 축에서 최대 응력이 발생하였고 최대 변형량은 직접작업부에서 발생하였다. Model 1 이 Model 2 보다 내구성면에서 구조적으로 더 안정적이라고 사료된다. 불규칙 피로 하중들 중에서는 하중의 변화가 극심한 ’SAE bracket history'의 경우가 대체적으로 가장 불안정한 경향을 보이고 있고, 비교적 하중의 변화가 완 만한 'Sample history'의 경우가 가장 안정함을 보이고 있다. 본 연구의 결과를 종합하여 굴착기에서의 리퍼의 설 계에 응용한다면, 그 파손 방지 및 내구성을 검토하여 그 설계에 유용하게 활용될 것으로 사료된다.

Numerical Modeling of Continuous-time Fully Coupled Neural Networks

강민제 濟州大學校工科大學産業技術硏究所 1997 尖端技術硏究所論文集 Vol.8 No.1

This paper discusses numerical performance modeling of fully coupled continuous-time networks utilizing continuous activation functions, finite input resistance of neurons, and other parasitic components within the neural system. Both time-domain performance modeling and static numerical modeling of the networks are characterized and compared.

유전알고리즘을 사용한 대지의 다층구조 분석

강민제,부창진,김호찬,고영수 제주대학교 공과대학 첨단기술연구소 2005 尖端技術硏究所論文集 Vol.16 No.2

In this paper, a methodology has been proposed according to which, after carrying out a set of soil's resistivity measurements, one can compute the parameters of the multilayer earth structure using a genetic algorithm(GA). The results provided by the GA constitute the indispensable data that can be used in circuital or field simulations of grounding systems. The methodology allows to proceed toward a very efficient simulation of the grounding system and an accurate calculation of potential on the ground's surface.

Numerical Modeling of Continuous-time Fully Coupled Neural Networks

강민제 濟州大學校 産業技術硏究所 1997 산업기술연구소논문집 Vol.8 No.1

This paper discusses numerical performance modeling of fully coupled continuous-time networks utilizing continuous activation functions, finite input resistance of neurons, and other parasitic components within the neural system. Both time-domain performance modeling and static numerical modeling of the networks are characterized and compared.

A Fast Calculation of Apparent Soil Resistivity Using Exponential Sampling Method

강민제,김호찬 국제문화기술진흥원 2019 International Journal of Advanced Culture Technolo Vol.7 No.4

The apparent soil resistivity is used for estimating multilayer soil parameters, such as, layer’s depth and soil resistivity. The soil parameters are estimated by continuously revising those parameters until the error between the measured and calculated apparent soil resistivity reaches to allowable level. The equation for calculating the apparent soil resistivity is complicated and time consumed, because it is composed of an infinite integral which includes a zero order Bessel’s function of the first kind. In this paper, a fast algorithm for calculating the apparent soil resistivity of horizontal multilayer earth structure has been presented using exponential sampling method.

UCAV의 피탐지성 최소화를 위한 Single Serpentine Nozzle 형상 최적설계

강민제,류석희,정경진,이학진,명노신 한국항공우주학회 2023 韓國航空宇宙學會誌 Vol.51 No.7

Ensuring survivability of unmanned combat aerial vehicle (UCAV) is important to complete various missions in a battlefield environment. In particular, the infrared signal emitted from the exhaust gas plume of UCAV is tracked by infrared detectors, and it is one of the major threats to UCAV survivability. To solve this problem, a serpentine nozzle has been developed to reduce the observability of infrared signals. In this study, a shape design optimization of the single serpentine nozzle is performed to minimize the infrared signals. The design optimization framework proposed in this paper consists of three major parts: nozzle flow simulation, narrow-band model, and gradient-free optimization algorithm. Reynolds-averaged Navier-Stokes simulation is used to predict the propulsive performance and flow field around the single serpentine nozzle at the ground condition. Infrared signature characteristics are calculated using the narrow-band model. The Kriging surrogate model is used to construct the response surface that provides fast approximations of time-consuming function evaluation, and a genetic algorithm is used to find the optimal solution. The objective function is to minimize the infrared signal and six design factors are defined as the design variables that deform the shape of nozzle. As a result of shape optimization, 10.3% and 83.6% of the maximum infrared signal reduction are achieved in the azimuth and altitude angles, respectively, compared to the baseline nozzle. UCAV는 전장에서 다양한 임무를 완벽하게 수행하고 이탈할 때까지 생존성을 확보하는 것이 중요하다. 특히 임무 수행 후 이탈할 때, 항공기의 배기가스 플룸에서 발생하는 IR 신호는 적의 IR 탐지기에 추적되어 생존성을 위협한다. 본 연구에서는 항공기 엔진에 적용되는 단일 S형 노즐의 피탐지성이 최소가 되도록 형상 최적설계 연구를 진행하였다. 3차원 Reynolds-Averaged Navier-Stokes 지배 방정식으로 열유동장 해석을 수행하였고, Narrow-band Model을 사용하여 노즐 후방에서 발생하는 적외선 신호 해석에 대해 방위각 및 고도각에 따라 IR 신호를 예측하였다. 최적설계의 목적함수는 IR 신호 최소화로 설정하였고, 설계변수는 노즐의 형상을 변형시키는 6개의 설계 인자로 선정하였다. 설계 과정에서 목적함수의 반복적인 평가는 크리깅 근사모델로 대체하였고, 유전자 알고리즘을 통해 최적 노즐 형상을 도출하였다. 최적의 설계변수를 적용하였을 때, 최적 노즐 형상이 초기 노즐 형상 대비 IR 신호 최댓값 기준 방위각에서는 10.3%, 고도각에서는 약 83.6% 감소하였다.

신경회로망을 이용한 비선형 프로그래밍회로

강민제 한국융합신호처리학회 2001 융합신호처리학회 논문지 (JISPS) Vol.2 No.4

신경망을 이용한 선형프로그랭 회로를 홉프필드가 제안한 이후로 이에 관한 많은 논문들이 발표되었으며, 그 중에는 비선형 프로그래밍 문제에 관한 것들도 많다. 그래서 비용함수가 비선형인 경우는 해결이 되었으나 제한조건이 비선형인 경우에는 해결되지 못한 상태이다. 이 논문에서는 제한조건이 비선형인 경우를 포함하는 즉 비용함수와 제한조건 모두 비선형인 경우를 풀 수 있는 일반적인 비선형프로그래밍 신경망을 제안하고자 한다. Since Hopfield introduced the neural network for liner programming problems many papers have been published about it and some of them are about nonlinear programming problems Therefore nonlinear, cost function problem has been solved however nonlinear constraints problem has not been solved In this paper I have proposed the general nonlinear programming neural networks which minimize cost function with nonlinear constraints.

신경회로망의 최적화 개념을 이용한 연산회로

강민제,고성택 한국정보통신학회 1998 한국정보통신학회논문지 Vol.2 No.1

아날로그와 디지틀 합산 가능한 신경회로망회로를 제안한다. 제안된 회로는 Hopfield 신경회로망 모델을 사용하였으며, 연결강도들은 에너지함수를 이용해서 구하였다. NMOS를 이용하여 뉴론을 만들었고, 시뮬레이션결과는 거의 대부분의 경우가 전체 최소점으로 수렴함을 보였다. A neural network structure able to perform the operations of analogue and binary addition is proposed. The network employs Hopfield' model of a neuron with the connection elements specified on the basis of an analysis of the energy function. Simulation using NMOS neurons has shown convergence predominantly to the correct global minima.

Determination of multilayer earth model using genetic algorithm

강민제,부창진,김호찬 한국지능시스템학회 2007 INTERNATIONAL JOURNAL of FUZZY LOGIC and INTELLIGE Vol.7 No.3

In this paper a methodology has been proposed to compute the parameters of the multilayer earth model using a genetic algorithm(GA). The results provided by the GA constitute the indispensable data that can be used in circuital or field simulations of grounding systems. This methodology allows to proceed toward a very efficient simulation of the grounding system and an accurate calculation of potential on the ground's surface. The sets of soil resistivity used for GA are measured in Jeju area.