순환 신경망의 학습 방법에 관한 연구

김락상 청주대학교 경영경제연구소 2023 경상논총 Vol.15 No.1

현재 인공신경망 분야 중 순환 신경망에 관한 주제를 다루는 연구들이 많이 진행되고 있다. 순환 신경망이 자연어 처리 등의 분야에 많이 이용되고 있는 것이 중요한 이유이다. 순환 신경망은 시간적 또는 순차적으로 들어오는 입력 데이터를 처리하기에 적합하도록 설계되었다. 순차 데이터와 시계열 데이터는 순서가 있는 데이터를 의미한다. 예를 들면, 주식 가격, 텍스트 데이터, 오디오 데이터 등이 순서가 있는 데이터이다. 이러한 순서가 있는 순차적 데이터를 처리하여 정확한 예측을 하려면, 과거의 데이터를 어느 정도 기억하고 있어야 다음 것을 예측할 수 있다. 순환 신경망에서는 전 시점(t-1) 은닉층의 노드(유닛)에서 나온 값이 다시 현시점(t) 은닉층 유닛의 입력으로 보내진다. 순환 신경망은 은닉층의 유닛이 이전에 입력된 정보를 계속 보유하도록 설계되었다. 일반적인 순환 신경망은 데이터 시퀀스가 짧은 경우에는 문제가 되지 않지만, 데이터 시퀀스가 긴 경우에는 먼 이전 단계에서의 정보를 현재의 단계까지 유지하는 것이 어렵다. 이러한 문제의 근본적인 원 인은 그래디언트 소실(vanishing gradient)에 있다. 이러한 문제는 데이터 시퀀스상에서 앞 단계의 정보가 먼 뒷 단계에 전달되는 것을 어렵게 한다. 멀리 떨어져 있는 데이터들간의 관련성을 찾기 어렵게 만든다. 이것을 장기의존성 문제problems of long-term dependencies)라고 한다. Long Short Term Memory(이하 LSTM) 모델은 장기의존성 문제를 해결하기 위해 만들어진 모델이다. LSTM 모델은 비교적 먼 이전의 정보들을 유지할 수 있기 때문에, 시계열 분석, 텍스트 문장 분석 등에 적합한 순환 신경망 모델이다. 이 논문은 인공신경망의 모델 중 순차적인 데이터와 시계열 데이터를 예측하기에 적합하다고 알려진 순환 신경망의 기본적인 모델 및 학습 방법에 대해서 논하고, 이러한 기본적인 순환 신경망의 문제점을 제시한다. 기본적인 순환 신경망의 한계를 극복하기 위해 제시된 LSTM 모델을 소개하고, 실제 시계열 데이터를 이용하여 LSTM 모델의 예측 성능을 평가한다.

Application of recurrent neural network for inflow prediction into multi-purpose dam basin

Park Myung Ky,Yoon Yung Suk,Lee Hyun Ho,Kim Ju Hwan 한국수자원학회 2018 한국수자원학회논문집 Vol.51 No.12

본 연구에서는 순환신경망을 이용한 댐 유입량 예측모형의 적용성 검토를 목적으로 하고 있으며, 이를 위해 소양강댐 유역 및 충주댐 유역을 대상 으로 그간 댐 운영을 통해 축적된 기상 및 수문 빅데이터를 활용하여 인공신경망 모형과 엘만 순환신경망 모형을 구축하였다. 모형의 학습과 예측 을 위하여 유역별 유입량, 강우량, 기온, 일조시간, 풍속자료가 입력자료로 사용되었고 10일간 일별 댐유입량 자료가 모델의 출력자료로 구조화 하여 학습을 진행한 후 검증을 목적으로 2016년 7월 ~ 2018년 6월까지 2개년에 대한 댐 유입량 예측을 수행하였다. 학습된 모형의 유입량 예측 결과를 비교분석한 결과, 소양강댐 유역에서는 인공신경망 모형과 순환신경망 모형 간 예측성능은 큰 차이를 보이지 않았으며, 충주댐 유역에서는 순환신경망 모형의 예측 결과가 인공신경망 모형에 비해 비교적 우수한 성능을 보임에 따라 엘만 순환신경망을 이용하여 댐 유입량 예측모형을 구축 할 경우 예측성능은 기존의 인공신경망 모형과 비슷하거나 다소 우수할 것으로 판단된다. 또한 엘만 순환신경망은 갈수기 댐 유입량 예측에 있어서 인공신경망에 비해 예측결과의 재현성이 우수한 것으로 나타났으며, 엘만 순환신경망 학습에 있어 다중 은닉층 구조가 단일 은닉층 구조보다 예측 성능 향상에 효과적인 것으로 분석되었다. This paper aims to evaluate the applicability of dam inflow prediction model using recurrent neural network theory. To achieve this goal, the Artificial Neural Network (ANN) model and the Elman Recurrent Neural Network(RNN) model were applied to hydro-meteorological data sets for the Soyanggang dam and the Chungju dam basin during dam operation period. For the model training, inflow, rainfall, temperature, sunshine duration, wind speed were used as input data and daily inflow of dam for 10 days were used for output data. The verification was carried out through dam inflow prediction between July, 2016 and June, 2018. The results showed that there was no significant difference in prediction performance between ANN model and the Elman RNN model in the Soyanggang dam basin but the prediction results of the Elman RNN model are comparatively superior to those of the ANN model in the Chungju dam basin. Consequently, the Elman RNN prediction performance is expected to be similar to or better than the ANN model. The prediction performance of Elman RNN was notable during the low dam inflow period. The performance of the multiple hidden layer structure of Elman RNN looks more effective in prediction than that of a single hidden layer structure.

다목적댐 유입량 예측을 위한 Recurrent Neural Network 모형의 적용 및 평가

박명기,윤영석,이현호,김주환 한국수자원학회 2018 한국수자원학회논문집 Vol.51 No.12

This paper aims to evaluate the applicability of dam inflow prediction model using recurrent neural network theory. To achieve this goal, the Artificial Neural Network (ANN) model and the Elman Recurrent Neural Network(RNN) model were applied to hydro-meteorological data sets for the Soyanggang dam and the Chungju dam basin during dam operation period. For the model training, inflow, rainfall, temperature, sunshine duration, wind speed were used as input data and daily inflow of dam for 10 days were used for output data. The verification was carried out through dam inflow prediction between July, 2016 and June, 2018. The results showed that there was no significant difference in prediction performance between ANN model and the Elman RNN model in the Soyanggang dam basin but the prediction results of the Elman RNN model are comparatively superior to those of the ANN model in the Chungju dam basin. Consequently, the Elman RNN prediction performance is expected to be similar to or better than the ANN model. The prediction performance of Elman RNN was notable during the low dam inflow period. The performance of the multiple hidden layer structure of Elman RNN looks more effective in prediction than that of a single hidden layer structure. 본 연구에서는 순환신경망을 이용한 댐 유입량 예측모형의 적용성 검토를 목적으로 하고 있으며, 이를 위해 소양강댐 유역 및 충주댐 유역을 대상으로 그간 댐 운영을 통해 축적된 기상 및 수문 빅데이터를 활용하여 인공신경망 모형과 엘만 순환신경망 모형을 구축하였다. 모형의 학습과 예측을 위하여 유역별 유입량, 강우량, 기온, 일조시간, 풍속자료가 입력자료로 사용되었고 10일간 일별 댐유입량 자료가 모델의 출력자료로 구조화 하여 학습을 진행한 후 검증을 목적으로 2016년 7월 ~ 2018년 6월까지 2개년에 대한 댐 유입량 예측을 수행하였다. 학습된 모형의 유입량 예측 결과를 비교분석한 결과, 소양강댐 유역에서는 인공신경망 모형과 순환신경망 모형 간 예측성능은 큰 차이를 보이지 않았으며, 충주댐 유역에서는 순환신경망 모형의 예측 결과가 인공신경망 모형에 비해 비교적 우수한 성능을 보임에 따라 엘만 순환신경망을 이용하여 댐 유입량 예측모형을 구축할 경우 예측성능은 기존의 인공신경망 모형과 비슷하거나 다소 우수할 것으로 판단된다. 또한 엘만 순환신경망은 갈수기 댐 유입량 예측에 있어서 인공신경망에 비해 예측결과의 재현성이 우수한 것으로 나타났으며, 엘만 순환신경망 학습에 있어 다중 은닉층 구조가 단일 은닉층 구조보다 예측성능 향상에 효과적인 것으로 분석되었다.

그래프 합성곱-신경망 구조 탐색 : 그래프 합성곱 신경망을 이용한 신경망 구조 탐색

최수연,박종열 국제문화기술진흥원 2023 The Journal of the Convergence on Culture Technolo Vol.9 No.1

This paper proposes the design of a neural network structure search model using graph convolutional neural networks. Deep learning has a problem of not being able to verify whether the designed model has a structure with optimized performance due to the nature of learning as a black box. The neural network structure search model is composed of a recurrent neural network that creates a model and a convolutional neural network that is the generated network. Conventional neural network structure search models use recurrent neural networks, but in this paper, we propose GC-NAS, which uses graph convolutional neural networks instead of recurrent neural networks to create convolutional neural network models. The proposed GC-NAS uses the Layer Extraction Block to explore depth, and the Hyper Parameter Prediction Block to explore spatial and temporal information (hyper parameters) based on depth information in parallel. Therefore, since the depth information is reflected, the search area is wider, and the purpose of the search area of the model is clear by conducting a parallel search with depth information, so it is judged to be superior in theoretical structure compared to GC-NAS. GC-NAS is expected to solve the problem of the high-dimensional time axis and the range of spatial search of recurrent neural networks in the existing neural network structure search model through the graph convolutional neural network block and graph generation algorithm. In addition, we hope that the GC-NAS proposed in this paper will serve as an opportunity for active research on the application of graph convolutional neural networks to neural network structure search. 본 논문은 그래프 합성곱 신경망을 이용한 신경망 구조 탐색 모델 설계를 제안한다. 딥 러닝은 블랙박스로 학습이 진행되는 특성으로 인해 설계한 모델이 최적화된 성능을 가지는 구조인지 검증하지 못하는 문제점이 존재한다. 신경망 구조 탐색 모델은 모델을 생성하는 순환 신경망과 생성된 네트워크인 합성곱 신경망으로 구성되어있다. 통상의 신경망 구조 탐색 모델은 순환신경망 계열을 사용하지만 우리는 본 논문에서 순환신경망 대신 그래프 합성곱 신경망을 사용하여 합성곱 신경망 모델을 생성하는 GC-NAS를 제안한다. 제안하는 GC-NAS는 Layer Extraction Block을 이용하여 Depth를 탐색하며 Hyper Parameter Prediction Block을 이용하여 Depth 정보를 기반으로 한 spatial, temporal 정보(hyper parameter)를 병렬적으로 탐색합니다. 따라서 Depth 정보를 반영하기 때문에 탐색 영역이 더 넓으며 Depth 정보와 병렬적 탐색을 진행함으로 모델의 탐색 영역의 목적성이 분명하기 때문에 GC-NAS대비 이론적 구조에 있어서 우위에 있다고 판단된다. GC-NAS는 그래프 합성곱 신경망 블록 및 그래프 생성 알고리즘을 통하여 기존 신경망 구조 탐색 모델에서 순환 신경망이 가지는 고차원 시간 축의 문제와 공간적 탐색의 범위 문제를 해결할 것으로 기대한다. 또한 우리는 본 논문이 제안하는 GC-NAS를 통하여 신경망 구조 탐색에 그래프 합성곱 신경망을 적용하는 연구가 활발히 이루어질 수 있는 계기가 될 수 있기를 기대한다.

인공신경망을 이용한 자연어처리 방법에 관한 연구

김락상 청주대학교 경영경제연구소 2023 경상논총 Vol.16 No.1

최근에 챗 GPT에 대한 관심이 커지고 있다. 챗 GPT는 자연어를 해석하고, 생성할 수 있는 인공지능 모델이다. 챗 GPT는 방대한 양의 텍스트 데이터를 학습하여 사용자의 질문에 상세하게 답을 할 수 있는 인공지능 시스템이다. 자연어 처리를 위해 도입된 최초의 인공신경망 모델은 순환신경망(recurrent neural network, rnn)이다. 순환신경망 중에서 LSTM 모델을 이용하여 언어 번역기를 구현한 것이seq2seq 모델이다. 그러나 문장의 길이가 일정하지 않을 경우 순환신경망 모델에 입력으로 넣기 위해서는 길이를 일정하게 맞추는 전처리 작업이 필요하다. 또한, 문장 내의 단어들간의 의미론적인 관계를 고려하지 않은 모델이므로 많은 문제점을 포함하고 있다. 이러한 문제를 해결하기 위해 seq2seq모델에 어텐션(attention) 개념을 추가한 모델이 좋은 성과를 얻게 되었다. 어텐션(attention) 메커니즘을 도입한 seq2seq 모델도 학습시간이 너무 길어지는 순환신경망의 문제점을 피할 수는 없었다. Attention을 추가한 seq2seq 모델에서 순환신경망을 제거하고 attention만을 이용하여 구현한 언어 번역기 모델이 transformer이다. Transformer는 언어 번역기 모델이므로 인코더와 디코더 구조로 이루어져 있다. 인코더는 번역전 언어를 처리하는 부분이고, 디코더는 번역 후 언어를 처리하는 부분이다. Transformer에서 디코더만을 이용하여 구현한 언어생생 모델이 GPT이다. 본 논문에서는 자연어 처리 인공신경망 모델의 발전과정과 각 모델들의 문제점들을 리뷰하고, 필요한 개선점들을 제시하고자 한다. 특히 챗 GPT 모델의 문제점들을 살펴보고, 이러한 문제점들을 보완할 수 있는 방법을 제시한다. 챗 GPT는 언어, 인지, 인간의 이해와 관련된 인문과학과 사회과학 분야의 연구 및 응용에는 적합하지 않다. 그러나, 챗 GPT를 포함하여 자연어 처리에 대한 연구는 매우 중요하고, 경영학의 다양한 분야에 응용할 수 있다. 특히 빅데이터 등 고객의 데이터를 분석하여 고개 관련 분야의 기업전략에 활용하는 것은 중요하다.

순환신경망 모형을 활용한 시계열 비교예측

김종화,최종후,강창완 한국자료분석학회 2019 Journal of the Korean Data Analysis Society Vol.21 No.4

Typical algorithms for deep learning include DNN (deep neural network), CNN (convolution neural network), and RNN (recurrent neural network) algorithms. Among them, RNN is excellent at dealing with sequential data. Sequential data such as time series data can be handled without losing gradient by LSTM (long short-term memory) RNN. In this study, the LSTM, a modified algorithm of RNN, is applied to international airline passenger data (from January 1, 1994 to December 1960). We find the optimal model and compare it with the ARIMA model, the initial network model presented by Faraway (1998), and the model of Jordan & Elman, the simple RNN model. To compare the models, we train the data as learning data sets from January 1949 to December 1950, and designate the remaining one year of data as test sets. and compare the performance of the model with the sum of square errors of the test sets. The model comparison shows that the Elman RNN model was the best, and that the LSTM model was not inferior to the ARIMA model. 최근 알파고 이후 딥러닝 연구에 대한 활발한 연구가 진행되고 있다. 딥러닝에는 이미지 분석에 적합한 CNN(convolution neural network), 순차적 자료에 적합한 RNN(recurrent neural network) 모델 등 많은 모델이 존재하는데 그 중 시계열데이터 분석에 적합한 딥러닝 모델을 전형적 시계열데이터인 항공사 데이터(1949년 1월부터 1960년 12월까지 매월 총 국제 항공사 승객 수)에 Box-Jenkins의 ARIMA 모형과 함께 적합시켜 비교 할 것이다. 본 연구에서는 R 프로그램을 이용하여 LSTM(long short-term memory) 순환신경망 모델을 구축하고, ARIMA 모형, Faraway(1998)가 제시한 단순 신경망(neural network) 모형 그리고 Jordan & Elman의 순환신경망 모형과의 적합도를 비교하였다. 모형 비교결과 Elman 모형의 오차제곱합이 0.0128, Jordan 모형의 오차제곱 합이 0.0138, LSTM 모형의 오차제곱합이 0.0165, 신경망 모형은 오차제곱합 0.0212로 ARIMA 모형의 0.0194 에 비해 조금 뒤떨어지는 것으로 나타났다. 결국 Elman 순환신경망 모형이 가장 우수하게 나타났으며 LSTM 모형도 기존 ARIMA 모형과 Faraway의 단순신경망모형 보다 우수한 적합도를 나타났다.

순환신경망 기반의 사용자 의도 예측 모델

방성혁,배석현,박현규,전명중,김제민,박영택 한국정보과학회 2018 정보과학회논문지 Vol.45 No.4

Several studies have been conducted on human intention prediction with the help of machine learning models. However, these studies have indicated a fundamental shortcoming of machine learning models since they are unable to reflect a long span of past information. To overcome this limitation, this paper proposes a human intention prediction model based on a recurrent neural network(RNN). For performing predictions, the RNN model classifies the patterns of time-series data by reflecting previous sequence patterns of the time-series data. For performing intention prediction using the proposed model, an RNN model was trained to classify predefined intentions by using attributes such as time, location, activity and detected objects in a house. Each RNN node is composed of a long short-term memory cell to solve the long term dependency problem. To evaluate the proposed intention prediction model, a data generator based on the weighted-graph structure has been developed for generating data on a daily basis. By incorporating 23,000 data instances for training and testing the proposed intention prediction model, a prediction accuracy value of 90.52% was achieved. 기계 학습 모델 구축을 통한 인간의 의도 예측은 기존에도 제공되어 왔으나, 특정 행위가 발생하는 시점으로부터 먼 과거의 정보를 반영한 의도 예측이 어렵다는 단점이 존재했다. 이 문제점의 극복을 위해, 본 논문에서는 순환 신경망(RNN – Recurrent Neural Network) 기반의 행위 의도 예측 모델 학습 기법을 제안한다. 순환 신경망 모델은 시계열(Time-Series) 데이터의 패턴을 분석하여 과거의 시점이 반영된 예측 결과를 생성한다. 본 논문이 제안하는 순환 신경망 기반의 의도 예측 모델은 시간, 공간, 행위, 물체, 의도로 구성된 생활 데이터 시퀀스를 바탕으로 사용자의 의도를 예측할 수 있도록 학습된다. 순환 신경망의 각 노드는 의도 예측 모델이 먼 과거의 데이터 시퀀스를 고려하여 의도를 예측 할 수 있도록 LSTM(Long-Short Term Memory) Cell로 구성하였다. 순환 신경망 기반의 의도 예측 모델의 성능 평가를 위해, 본 논문에서는 행위 의도에 대한 가중치 그래프 기반 데이터 생성기를 구축하여 실제 실내에서 발생하는 인간 활동에 가까운 데이터를 자동으로 생성하여 실험에 사용했다. 총 23,000개의 데이터가 의도 모델 학습과 검증에 사용되었으며, 학습된 모델의 의도 예측 정확도 측정 실험을 한 결과로 평균 90.52%의 예측 정확도를 보였다.

LSTM 순환 신경망을 이용한 초음파 도플러 신호의 음성 패러미터 추정

주형길,이기승,Joo, Hyeong-Kil,Lee, Ki-Seung 한국음향학회 2019 韓國音響學會誌 Vol.38 No.4

본 논문에서는 입 주변에 방사한 초음파 신호가 반사되어 돌아올 때 발생하는 초음파 도플러 신호를 LSTM(Long Short Term Memory) 순환 신경망 (Recurrent Neural Networks, RNN)을 이용해 음성 패러미터를 추정하는 방법을 소개하고 다층 퍼셉트론 (Multi-Layer Perceptrons, MLP) 신경망을 이용한 방법과 성능 비교를 하였다. 본 논문에서는 LSTM 순환 신경망을 이용해 초음파 도플러 신호로부터 음성 신호의 푸리에 변환 계수를 추정하였다. LSTM 순환 신경망을 학습하기 위한 입력 및 기준값으로 초음파 도플러 신호와 음성 신호로부터 각각 추출된 멜 주파수 대역별 에너지 로그값과 푸리에 변환 계수가 사용되었다. 테스트 데이터를 이용한 실험을 통해 LSTM 순환 신경망과 MLP의 성능을 평가, 비교하였고 척도로는 평균 제곱근 오차(Root Mean Squared Error, RMSE)가 사용되었다.각 실험의 RMSE는 각각 0.5810, 0.7380로 나타났다. 약 0.1570 차이로 LSTM 순환 신경망을 이용한 방법의 성능 우세한 것으로 확인되었다. In this paper, a method of estimating speech parameters for ultrasonic Doppler signals reflected from the articulatory muscles using LSTM (Long Short Term Memory) RNN (Recurrent Neural Networks) was introduced and compared with the method using MLP (Multi-Layer Perceptrons). LSTM RNN were used to estimate the Fourier transform coefficients of speech signals from the ultrasonic Doppler signals. The log energy value of the Mel frequency band and the Fourier transform coefficients, which were extracted respectively from the ultrasonic Doppler signal and the speech signal, were used as the input and reference for training LSTM RNN. The performance of LSTM RNN and MLP was evaluated and compared by experiments using test data, and the RMSE (Root Mean Squared Error) was used as a measure. The RMSE of each experiment was 0.5810 and 0.7380, respectively. The difference was about 0.1570, so that it confirmed that the performance of the method using the LSTM RNN was better.

영상 잡음 제거 필터를 위한 퍼지 순환 신경망 연구

변오성(Oh-Sung Byun) 한국컴퓨터정보학회 2011 韓國컴퓨터情報學會論文誌 Vol.16 No.6

본 논문은 퍼지를 적용한 순환 신경망을 이용하여 잡음 제거용 필터를 구현하였다. 제안된 퍼지 순환 신경망 구조는 기본적으로 순환 신경망 구조를 이용하여 가중치 및 반복횟수가 일정한 값에 수렴하도록 하였으며, 하이브리드 퍼지 소속 함수 연산자를 적용하여 수학적인 계산량 및 복잡성를 단순화하였다. 본 논문은 제안된 퍼지 순환 신경망 구조 필터가 일반적인 순환 신경망 구조 필터보다 평균 0.38dB 정도 영상복원이 개선됨을 PSNR을 이용하여 증명하였다. 또한 결과 영상 비교에서 제안된 방법을 적용하여 얻은 영상이 기존 방법을 적용하여 얻은 영상보다 원영상과 더 유사함을 확인하였다. In this paper, it is realized an image filter for a noise elimination using a recurrent neural networks with fuzzy. The proposed fuzzy neural networks structure is to converge weights and the number of iteration for a certain value by using basically recurrent neural networks structure and is simplified computation and complexity of mathematics by applying the hybrid fuzzy membership function operator. In this paper, the proposed method, the recurrent neural networks applying fuzzy which is collected a certain value, has been proved improving average 0.38dB than the conventional method, the generalied recurrent neural networks, by using PSNR. Also, a result image of the proposed method was similar to the original image than a result image of the conventional method by comparing to visual images.

시계열 자료의 예측을 위한 자료 기반 신경망 모델에 관한 연구: 한강대교 수위예측 적용

유형주,이승오,최서혜,박문형 한국방재안전학회 2019 한국방재안전학회 논문집 Vol.12 No.2

Recently, as the occurrence frequency of sudden floods due to climate change increased, the flood damage on riverside social infrastructures was extended so that there has been a threat of overflow. Therefore, a rapid prediction of potential flooding in riverside social infrastructure is necessary for administrators. However, most current flood forecasting models including hydraulic model have limitations which are the high accuracy of numerical results but longer simulation time. To alleviate such limitation, data driven models using artificial neural network have been widely used. However, there is a limitation that the existing models can not consider the time-series parameters. In this study the water surface elevation of the Hangang River bridge was predicted using the NARX model considering the time-series parameter. And the results of the ANN and RNN models are compared with the NARX model to determine the suitability of NARX model. Using the 10-year hydrological data from 2009 to 2018, 70% of the hydrological data were used for learning and 15% was used for testing and evaluation respectively. As a result of predicting the water surface elevation after 3 hours from the Hangang River bridge in 2018, the ANN, RNN and NARX models for RMSE were 0.20 m, 0.11 m, and 0.09 m, respectively, and 0.12 m, 0.06 m, and 0.05 m for MAE, and 1.56 m, 0.55 m and 0.10 m for peak errors respectively. By analyzing the error of the prediction results considering the time-series parameters, the NARX model is most suitable for predicting water surface elevation. This is because the NARX model can learn the trend of the time series data and also can derive the accurate prediction value even in the high water surface elevation prediction by using the hyperbolic tangent and Rectified Linear Unit function as an activation function. However, the NARX model has a limit to generate a vanishing gradient as the sequence length becomes longer. In the future, the accuracy of the water surface elevation prediction will be examined by using the LSTM model. 최근 이상기후로 인한 집중호우에 따른 하천변 사회기반시설의 침수피해가 증가하고 있으며, 침수 가능성 여부에 대한 신속한 예·경보가 필요한 실정이다. 일반적인 홍수 예·경보는 하천수위를 이용하고 있으며, 수치모형을 이용하여 하천수위를 예측하는 연구가 대부분이었다. 그러나 수치모형을 이용한 하천수위 예측은 결과가 정확한 반면 수치모의 시간이 오래 소요된다는 한계점이 있어 최근에는 인공신경망 등을 적용한 자료기반의 수위예측 모형이 많이 이용되고 있다. 하지만 기존의 인공신경망을 활용한 수위예측 연구는 시간적 매개변수를 고려하지 못하였다는 한계점이 존재한다. 본 연구에서는 시간적 매개변수(Time delay= 2시간)를 고려한 NARX 신경망 모형을 사용하여 한강대교의 수위를 예측하였다. 또한 NARX 모형의 적합성을 판단하기 위하여 인공신경망(ANN) 모형과, 순환신경망(RNN)모형의 결과와 비교하였다. 2009년에서 2018년까지 10년간의 수문자료를 이용하여 70%를 학습시키고 검정과 평가에 15%를 사용하여 2018년의 한강대교 3시간 후 수위를 예측한 결과 평균제곱근오차(RMSE)의 경우 ANN, RNN, NARX model이 각 각 0.20 m, 0.11 m, 0.09 m, 평균절대오차(MAE)의 경우, 각각 0.12 m, 0.06 m, 0.05 m, 첨두수위 오차(Peak Error)는 각각 1.56 m, 0.55 m, 0.10 m로 나타났다. 연구 대상지역에 대한 시간적 매개변수를 고려한 예측 결과의 오차분석을 통하여 NARX 신경망 모형을 사용 하는 것이 수위예측 모형 구축이 가장 적합한 것으로 나타났다. 이는 NARX 신경망 모형이 과거의 입력자료를 고려함으로써 시계열 자료의 변동 추세도 학습 할 수 있으며, 또한 모형 내 활성함수를 쌍곡선탄젠트(Hyperbolic tangent) 및 Rectified Linear Unit(ReLU) 함 수를 사용하여 고수위 예측 시에도 정확한 예측 값을 도출할 수 있기 때문이다. 그러나 NARX 신경망 모형은 시퀀스 길이가 길어짐에 따라 기울기 소실문제(Vanishing gradient)가 발생하는 한계점이 있어 향후에는 이를 보완한 LSTM(Long Short Term Model)모형을 이용하여 수위예측의 정확도를 검토하고자 한다.