LSTM 게이트의 시간적 기여도 정량화: BiNO-LSTM

김준영 서울대학교 대학원 2026 국내석사

데이터가 방대해지고 복잡해지면서 시계열 데이터를 분석하는 데 있어서 딥 러닝 기반의 방법론이 제시되었다. RNN의 장기 의존성 문제를 해결하며 등장한 LSTM은 딥러닝 시계열 분석의 핵심 모델로 자리 잡았다. 그러나 Transformer 와 같은 최신 모델들이 주목받는 현재에도, LSTM의 각 게이트의 근본적인 역 할에 대한 체계적인 분석은 부족하다. 본 연구는 이 지점에서 출발하여, LSTM 내부 게이트의 역할을 정량화하고 그 통찰을 바탕으로 더 효율적인 모델 구조를 제안하는 것을 목표로 한다. 이를 위해 두 가지 분석을 수행했다. 첫째, 게이트를 제거한 여러 변형 모델의 성능을 비교하는 제거 실험을 통해 각 요소의 중요도를 평가했다. 둘째, 특정 시점의 게이트 값을 변경하여 출력의 민감도를 측정하는 독자적인 게이트 기여도 분석을 통해 게이트의 동적인 역할을 파악했다. 분석 결과, 망각 게이트는 과제와 무관하게 장기 의존성 학습에 가장 핵심적 인 요소였으며, 출력 게이트의 기여도는 예측 직전의 국소적인 구간에 집중됨을 확인했다. 이 발견에 근거하여, 출력 게이트를 제거하고 양방향 문맥 정보를 결 합하여 효율성과 성능을 동시에 개선한 BiNO-LSTM을 제안했다. S&P, JSB, HAR 그리고 두 종류의 합성 데이터에서 성능을 평가한 결과, 제 안 모델은 실제 시계열 데이터에서 RNN 계열 모델 대비 전반적으로 우수하거나 동등한 성능을 보였다. 반면 전체 비교모델 관점에서는 과제별로 최고 성능을 보인 구조가 달랐는데, S&P와 JSB에서는 TCN이, 덧셈 및 메모리 복사 과제 에서는 Transformer가 가장 우수한 성능을 기록하였다. 과제 특성에 맞는 모델 선택의 중요성을 재확인했다. 결론적으로, 본 연구는 게이트의 역할을 분석하는 새로운 프레임워크와 함께, 실제 예측 문제에서 실용적 이점을 갖는 경량화된 모델 구조를 성공적으로 제시했다. As data complexity grows, deep learning models like Long Short-Term Memory (LSTM) have become fundamental for time series analysis. However, despite the emergence of newer architectures, a systematic analysis of the func- tional roles of LSTM’s internal gates is lacking. This study addresses this gap by quantifying the importance of each gate to develop a more efficient model. We employ two analytical approaches: ablation studies to assess component necessity and a novel gate attribution analysis to measure output sensitivity to temporal gate perturbations. Our findings reveal that the forget gate is uni- versally critical for learning long-term dependencies, while the output gate’s attribution is concentrated in local intervals preceding prediction. Based on these insights, we propose BiNO-LSTM, an architecture that removes the out- put gate and incorporates bidirectional context to improve both efficiency and performance. Across five benchmarks, BiNO-LSTM performs comparably to or better than other RNN-based models on real-world datasets, while the best overall architecture varies by task (e.g., TCN on S&P/JSB and Transformer on Adding/Copying). This work contributes a new framework for interpreting gate dynamics and a lightweight yet powerful model structure.

LSTM-RBM을 사용한 시퀀스 로그 이상 탐지에 관한 연구

최연우 전남대학교 2023 국내석사

로그 이상 탐지는 정보 시스템에서 보안 및 문제 진단에 중요한 도구로 활용되고 있다. 최근 컴퓨터 시스템 발달로 인한 로그 데이터의 폭발적인 증가로 인해, 로그 분석은 매우 복잡한 작업이 되었다. 이에 따라 시스템 이상을 자동으로 분석하고 성능을 향상시킬 딥러닝 접근 방식의 연구가 제안되고 있다. 그중 가장 대표적인 딥러닝 기반 로그 이상 탐지 모델인 DeepLog는 로그 템플릿의 인덱스만을 활용하기 때문에 로그 구문 분석 오류의 영향을 크게 받는 단점이 있다. 시퀀스 로그 데이터에 대한 DeepLog 모델을 향상시키기 위해 LSTM-RBM을 사용한 새로운 딥러닝 기반 로그 이상 탐지 기법을 제안한다. LSTM-RBM은 일반적으로 시계열 데이터를 학습하고 생성하는 확률적인 모델로 사용된다. 이러한 LSTM-RBM을 로그 데이터의 이상 탐지를 위한 예측 모델로써 사용을 제시한다. LSTM-RBM을 사용하여 시간에 따라 변하면서 서로 상관관계에 있는 시퀀스 로그 데이터의 확률 분포를 계산할 수 있다. 제안된 기법의 성능을 평가하기 위해 세 가지 데이터셋 HDFS, Thunderbird, BGL을 이용하였다. 하이퍼파라미터 조절을 통해 최적의 값을 도출하였고 두 가지 학습 방법 Loglikihood와 Joint 실험 결과를 비교하였다. 실험 결과, 제안된 LSTM-RBM 모델은 기존의 DeepLog 모델보다 더 높은 성능을 보였다. LSTM-RBM은 오픈데이터 HDFS의 경우 F1 스코어 96.255%, 가공데이터 HDFS 94.31%, Thunderbird 68.28%, BGL 84.339%가 측정되었다. 또한 HDFS 데이터셋을 사용하여 가공데이터의 경우 전처리 과정에 대한 의존성을 낮추면서 DeepLog 모델의 단점 보완한 점을 확인할 수 있었다. 해당 결과들을 통해 LSTM-RBM 기반의 시퀀스 로그 이상 탐지에 대해 효과적인 딥러닝 모델을 제시한다. Log anomaly detection is used as an important tool for security and problem diagnosis in information systems. Due to the explosive increase in log data due to the recent development of computer systems, log analysis has become a very complex task. Accordingly, research on a deep learning approach that automatically analyzes system anomalies and improves performance is being proposed. Among them, DeepLog, which is the most representative deep learning-based log anomaly detection model, has the disadvantage of being greatly affected by log parsing errors because it uses only the index of log templates. We propose a new deep learning-based logarithmic anomaly detection technique using LSTM-RBM to improve the DeepLog model for sequence log data. LSTM-RBM is commonly used as a stochastic model to learn and generate time series data. We present the use of this LSTM-RBM as a predictive model for detecting anomalies in log data. LSTM-RBM can be used to calculate the probability distribution of sequence log data that are correlated with each other as they change over time. Three datasets, HDFS, Thunderbird, and BGL, were used to evaluate the performance of the proposed method. Optimal values were derived through hyperparameter adjustment, and the results of two learning methods, Loglikihood and Joint experiments, were compared. As a result of the experiment, the proposed LSTM-RBM model showed higher performance than the existing DeepLog model. LSTM-RBM measured F1 score of 96.255% for open data HDFS, 94.31% for processed data HDFS, 68.28% for Thunderbird, and 84.339% for BGL. In addition, it was confirmed that the disadvantages of the DeepLog model were supplemented while reducing the dependence on the preprocessing process in the case of processed data using the HDFS dataset. Through the results, we present an effective deep learning model for LSTM-RBM-based sequence log anomaly detection.

LSTM-MSV-S2S와 RR-Former를 이용한 강우-유출 예측

윤석현 서울과학기술대학교 2026 국내석사

제 목 : LSTM-MSV-S2S와 RR-Former를 이용한 강우-유출 예측 미계측 유역의 홍수량을 예측하는 것은 수문학 분야에서 여전히 큰 난제 중 하나 이다. 기존의 개념적 모델 및 지역화 방법들은 수문학적 불확실성과 인근 유역으로의 제한된 전이 가능성(transferability)으로 인해 높은 예측 정확도 확보에 한계를 보여 왔다. 이를 극복하기 위해 최근에는 딥러닝 모델, 특히 LSTM(Long Short-Term Memory)과 같은 순환신경망과 Transformer와 같은 자기 어텐션(self Attention) 기반 아키텍처 모델의 발전은 강우-유출 모델링을 위한 유망한 대안으로 부상하고 있다. 본 연구에서는 LSTM 기반 LSTM-MSV-S2S 모델과 Transformer 기반 RR-Former 모델에 단기 홍수유출에 영향을 주는 8가지 정적 특성을 주입하는 방법을 적용하여 국내 91개 유역의 첨두 유량(Peak discharge) 및 수문곡선 예측 성능을 비교·분석 하였다. 데이터 유출을 방지하기 위해 엄격한 LOBO(Leave-One-Basin-Out) 교차검증 방법을 적용하였으며, 하이퍼파라미터 튜닝 과정에서는 아키텍처별 레이어 구성 및 유역의 정적 특성(Static attribute) 가중치 등의 파라미터를 체계적으로 탐색하였다. 이때 NSE(Nash–Sutcliffe efficiency), MAE(Mean Absolute Error), 첨두 유량 오차 (peak flow error)를 결합한 손실 함수(Hydbrid loss)를 사용하였다. 분석 결과, 정적 특성을 포함시킨 모델의 예측 성능이 전반적으로 향상되는 것으 로 나타났는데, 특히 강우-유출 관계만 학습했을 때 성능이 낮았던 유역들에서 뚜 렷한 개선 효과가 관찰되었다. RR-Former는 전반적인 NSE 및 KGE 지표에서 우수한 성능을 나타냈으며, LSTM-MSV-S2S는 정적 특성 결합 시 첨두 유량(Peak Flow)과 첨두 발생 시간 재현(Peak time Reproduction) 측면에서 뚜렷한 개선을 보였다. LSTM-MSV-S2S는 정적 특성 가중치 0.2에서 최적 예측 성능을 나타낸 반면, RR-Former는 상대적으로 낮은 가중치인 0.05 에서도 충분한 예측력을 발휘하여 어 텐션 메커니즘의 일반화 능력을 확인할 수 있었다. 임베딩 분석에서는 홍수량 산정에 주요한 영향을 미치는 지형 특성인 하천 연장(River Length)과 유역 면적(Area)의 기여도가 가장 높게 나타났으며, 모델이 물리적으로 중요한 특성을 우선적으로 학 습한다는 점을 확인하였다. 본 연구는 미계측 유역 예측 분야에서 LSTM 및 Transformer 기반 모델 아키텍처의 적용 가능성과 딥러닝 모델 내 정적 특성 정보 주입의 중요성과 실무 활용 가능성을 제시하였다. Prediction in Ungauged Basins (PUB) remains one of the greatest challenges in hydrology. Traditional regionalization methods and conceptual models often struggle to achieve satisfactory accuracy due to uncertainty and limited transferability. Recent advances in deep learning, particularly recurrent neural networks such as LSTM(Long Short-Term Memory) and self-attention–based architectures such as the Transformer, offer promising alternatives for rainfall–runoff modeling. This study compares an LSTM-MSV-S2S and the Transformer-based RR-Former in estimating peak discharge across 91 basins under strict LOBO-CV(Leave-One-Basin-Out Cross Validation. A hybrid loss function incorporating NSE(Nash–Sutcliffe Efficiency), KGE(Kling-Gupta Efficiency), MAE(Mean Absolute Error), and peak flow error was applied, with systematic exploration of static basin attribute weighting. Results indicate that both models improved when static attributes were included, with notable performance gains in low-performing basins. The RR-Former achieved higher overall NSE and KGE, while LSTM-MSV-S2S exhibited remarkable improvement in peak flow reproduction when static attributes were integrated. These findings highlight the complementary strengths of LSTM and Transformer architectures in PUB applications and underscore the importance of static attribute embedding for hydrologic deep learning.

LSTM을 활용한 드론의 모터 진동 이상 탐지 연구

이양규 한신대학교 정보통신학과 2021 국내박사

By the advancement to the 4th Industrial Revolution, the application of the Information technology and the drones with enhanced equipment and devices attached is drastically increasing nowadays. Especially, the drones for photographing/filming and for agricultural purposes are commonly seen around us and they are applied intimately within our daily lives. Moreover, the Ministry of Land, Infrastructure and Transport announced the plan for commercialization of the drone taxis until 2025 and they are estimated to transport the passengers from Incheon International Airport to Yeouido in only 20 minutes of travel time. Accordingly, by the increase of the use and application of drones generally increase in our society, at the same time so does the risk of fall/crash. The drones are composed by relatively simple structure when compared to airplanes and therefore their durability is also relatively lower and the risk of fall/crash is higher. Thus, in the operation of drones the management of risk of fall/crash is a very crucial factor. In this study there has been researched the methodology to forecast through real time monitoring, any situation which might produce the motor failure, which is the most frequent cause of drone failure. The existing studies were mostly limited in the area of electric locomotives or motors within factories. In this thesis, there has been studied the motor vibration anomality by using the LSTM with the purpose of preventing the risk of fall/crash of the drone on the basis of the point that also in case of the drone, the risk of the fall/crash was the greatest when the motor anomality occurred. In this study, the drone was rotated in constant speed of 1,205rpm and the samples of vibration data were collected from the drone by using the acceleration sensor with 100msec cycle. The data of abnormal vibration of drone motor was saved through the FTP server, the data was learned through pre-processing process and it was composed to prove as stated in the test data. In addition, the 6 classifications of abnormal vibration of drone motor for this study were selected from the most frequent failures which occur in drone motors, and they were verified as: “Broken Rotor Bars”, “Broken Rotor”, “Shaft Unbalance”, “Faulted Bearings”, “Voltage Unbalance”, “Propeller Crack”. For the enhancement of the determination of abnormal vibration in motor, there has been selected and applied as the forecasting model, the LSTM (Long Short Term Memory) which is an artificial Neural Network based on Deep Learning. Th Tensor Flow has been applied to produce the learning model and the detected abnormal vibration of the motor was analyzed with the LSTM neural network. Moreover, by extracting the characteristics of the anomality data and through the standardization of the average values and standard deviation, the method for collection of vibration data has been reexamined. The proposed method has detected the various abnormal vibration status of the motor such as Broken Rotor Bars, Broken Rotor, Shaft Unbalance, Faulted Bearings, Voltage Unbalance, Propeller Crack, and therefore there could be proposed the method of adoption of a system for detection of abnormal vibration of the drone. Additionally, there has been compared the forecasting rate of the RNN and the LSTM with the samples of the Three (3) representative failures of the drone motor such as Broken Rotor Bars, Broken Rotor and Shaft Unbalance, and it has been verified that the forecasting rate of the LSTM was higher in R-Square value averagely 5.28% higher than that of the RNN. Accordingly, when forecasted the abnormal vibration of the motor by using the LSTM with high forecasting rate, among the Six (6) classifications of failure, in the Voltage Unbalance the forecasting rate reached 99.84%, and the failure classification with the lowest accuracy has been verified as the Broken Rotor with the forecasting rate accuracy of 97.69%. Therefore, all the Six (6) failure classifications were verified with high forecasting rate accuracy of 97% or higher. This study on detection of drone motor anomality by using the LSTM has been based on empirical data which was collected through direct driving operation by the researcher, and therefore it can be applied in practice, and the researcher hereby expects that, if the studies on application of LSTM were advanced even more hereafter it could contribute significantly for the progress of the drone industry. 4차 산업 혁명이 일어나면서 IT 기술과 고도화된 장비가 장착된 드론이 산업 전반에 걸쳐 급격히 사용량이 증가하고 있다. 특히 촬영 및 농업용 드론은 지금 우리 주변에서 흔히 볼 수 있으며 실생활에 밀접하게 사용하고 있다. 또한, 국토교통부에서 2025년까지 드론 택시를 상용화 계획 발표를 했고 인천공항에서 여의도까지 20분 만에 이동하도록 할 예정이다. 이렇게 드론의 활용도가 우리 사회 전반에 걸쳐 증가할수록 추락에 대한 위험도 점차 증가하고 있다. 드론은 항공기와 달리 비교적 간단한 구조로 이뤄져 있어 내구성이 약하고 추락에 대한 위험이 크다. 따라서 드론 운용 시 추락 위험 관리는 매우 중요한 요소이다. 이 논문에서는 드론 추락 위험 요소 중 발생 빈도수가 높은 드론 모터 이상 고장을 실시간 모니터링해서 이상이 발생 될 수 있는 상황을 탐지하는 연구를 진행했다. 본 논문에서는 드론 모터 이상의 발생 때 추락 위험이 가장 크다는 점에 착안해 드론의 추락 위험을 방지하고자 하는 목적으로 LSTM을 활용한 드론 모터 진동 이상 연구를 제안했다. 실험을 위한 데이터 수집은 드론을 30초간 1,205rpm으로 정속 회전시킨 후, 가속도 센서를 이용하여 드론 모터에서 100msec 주기로 진동데이터를 샘플링하여 수집했다. 드론 모터 진동 이상 데이터는 FTP 서버를 통해 저장되고 전처리 과정을 거친 데이터를 학습 후 검증을 위한 테스트 데이터와 같이 저장했다. 또한, 연구를 위한 드론 모터 진동 이상 유형은 드론 모터에서 가장 많이 발생하는 고장 유형들인 “로터바 손상(Broken rotor bars)”, “로터 손상(Broken rotor)”, “축 휨(Shaft unbalance)”, “베어링 불량(Faulted bearings)”, “전압 불균형(Voltage unbalance)”, “프로펠러 손상(Propeller crack)”의 6가지를 선정하였다. 제안된 모터 진동 이상 판단의 모델은 딥러닝(Deep Learning) 기반의 인공신경망(Neural Network)인 LSTM(Long Short Term Memory) 기법을 적용하였다. 제안된 방법은 학습 모델 생성을 위하여 텐서플로우(TensorFlow)를 사용하였고 모터 진동 이상 탐지를 위하여 LSTM 신경망 네트워크를 사용하여 분석했다. 분석을 위한 데이터 수집 방법으로는 이상 데이터의 특징 추출, 평균 및 표준편차를 사용한 표준화를 적용했다. 구체적으로 제안한 방법은 드론 모터의 로터 바 손상, 로터 손상, 축 휨, 베어링 불량, 전압 불균형, 프로펠러 손상 6가지 유형 모터의 진동 이상 상태 데이터에 LSTM을 적용하여 탐지했다. 실험은 드론 모터의 바 손상, 로터 손상, 축 휨 세가지 불량에 대한 샘플을 활용하여 RNN과 LSTM의 정확도를 비교하여 성능 비교하였다. 실험비교 결과, LSTM이 RNN 보다 R-Square 값이 평균 5.28%가 더 높게 정확도가 나타났다. 제안된 LSTM을 활용한 모터 진동 이상 탐지 방법은 6가지의 불량 중 전압 불균형에 대한 예측 탐지에 대해 정확도가 99.84%로 가장 높게 보여주었으며, 예측 탐지의 정확도가 가장 낮은 불량은 로터 손상으로 97.69%로 나타났다. 결론적으로 LSTM을 활용한 드론의 6가지 모터 진동 이상 탐지 시 약 97% 이상의 높은 예측정확도를 확인했다. 제안된 LSTM을 활용한 드론 모터 이상 탐지의 연구 결과는 드론을 직접 구동해서 얻은 실제 데이터를 활용했기 때문에 바로 현장에서 고장 원인 예측에 적용이 가능할 것으로 기대된다.

LSTM 기반 홍수예측을 활용한 동적 댐 운영 기법 개발

강순구 세종대학교 대학원 2025 국내박사

최근의 기상이변과 극한 호우 사상으로 홍수대응의 중요성은 점점 더 커지고 있는 상황이며, 특히 저수지의 홍수예측 및 홍수조절은 해당 유역 의 상하류 지역의 홍수피해에 결정적인 영향을 미칠수 있다. 그러나, 일반적으로 다목적댐의 홍수조절은 담당자의 업무 숙련도·이해 도에 의존하여 유입량 예측 및 방류의사결정으로 이루어지고 있는데, 그에 따라 담당자의 숙련도·이해도 편차로 인한 물리적 홍수예측모형의 분석 결 과 및 속도가 상이하다. 또한 국지성호우의 증가로 인해 강우예측의 불확 실성은 더욱 커질 우려가 있으며, 돌발홍수 등 지속기간은 점점 짧아지고 있는 관계로 기존의 결정론적 홍수예측모델을 바탕으로 신속한 의사결정을 하기에는 점점 난이도가 올라가고 있는 실정이다. 그러나, 다행스럽게도 지속적으로 수문관측자료는 계속 축척되고 있으 며, 그 정확도는 지속적으로 올라가고 있는 실정으로, 충분한 데이터와 전 문성을 갖춘 기술자를 필요로 하는 결정론적 홍수예측 뿐만아니라, 확률론 적 홍수예측도 어느정도 가능한 시대에 왔으며, 이에대한 니즈도 지속되는 실정이다. 따라서 본 연구는 인공신경망 기법 중 하나인 LSTM과 SVM을 이용하 여 한강수계 4개댐(소양강,횡성,충주,광동댐)에 대하여 홍수예측모델을 구 축하고, 그 중 3개의 다목적댐(소양강,횡성,충주댐)에 대해서는 RIGID RO M을 적용하여 홍수조절을 모의하였다. 댐 홍수량 산정을 위해 LSTM 모형과 SVM 모형을 15년간 강우사상에 대하여 적용하되, LSTM의 경우 과접합과 자기 상관성을 해소하기위해 De lay Time과 Embeded DImension의 개념을 추가 적용하여 평가하였으며, 그 결과 모의 작후 6시간 까지는 예측자료의 적정성이 확보되었다. 개발 모형을 기반으로 2020~2023년 한강수계 다목적댐의 홍수조절 적 용성을 RIGID-ROM을 이용하여 적용하였으며, 그 결과, 실제 홍수조절결 과에 비하여 유사한 수준으로 적절하게 홍수조절이 이루어졌음을 알수 있 었다. 즉, 본 연구에서 LSTM 기반 기계학습으로 생성된 6시간 단기 홍수예 측량을 활용하여 댐 홍수조절에서의 적용 가능성을 검토한 결과 AI홍수량 을 활용한 댐운영은 실무 적용 가능성이 충분하다고 판단되었다. 주요어 : 강우-유출모형, LSTM, SVM, 기계학습, 댐 운영, RIGID-ROM The importance of flood response is increasing due to recent abnormal weather events and extreme heavy rain events, and in particular, flood routing in reservoir and flood control can have a decisive impact on flood damage in the upstream and downstream areas of the basin. However, in general, flood control of multi-purpose dams is carried out by predicting inflow and making discharge decisions depending on the job skills and understanding of the person in charge. Accordingly, the analysis results and speed of the physical flood prediction model may vary due to variations in the person in charge's skill and understanding. Different. In addition, there is concern that uncertainty in rainfall forecasts will further increase due to the increase in localized heavy rainfall, and as the duration of flash floods is becoming shorter, it is becoming more and more difficult to make quick decisions based on existing deterministic flood prediction models. This is the situation However, fortunately, hydrological observation data is continuously being accumulated, and its accuracy is continuously increasing, making not only deterministic flood prediction, which requires engineers with sufficient data and expertise, but also probabilistic flood prediction to some extent possible. The times have come, and the need for it continues. Therefore, this study uses LSTM and SVM, one of the artificial neural network techniques, to build a flood prediction model for four dams in the Han River system (Soyang River, Hoengseong, Chungju, and Gwangdong Dam), and three of them multipurpose dams (Soyang River, Hoengseong, and Chungju Dam) ), flood control was simulated by applying RIGID ROM. To calculate dam flood volume, the LSTM model and SVM model were applied to rainfall events for 15 years. In the case of LSTM, the concepts of Delay Time and Embedded DImension were additionally applied and evaluated to resolve overconnection and autocorrelation, and as a result, after the simulation, The adequacy of the forecast data was secured up to 6 hours. Based on the development model, the flood control applicability of the multipurpose dam in the Han River basin from 2020 to 2023 was applied using RIGID-ROM, and as a result, it was found that flood control was appropriately achieved at a similar level compared to the actual flood control results. In other words, as a result of examining the applicability in dam flood control using the 6-hour short-term flood forecast generated by LSTM-based machine learning in this study, it was determined that dam operation using AI flood forecast has sufficient practical applicability Keywords : Rainfall-Runoff Model, LSTM, SVM, Machine Learning, Dam Operation Rule, RIGID-ROM

LSTM 기반 차량 모델 불확실성 변수 예측을 통한 차량 Torque Vectoring에서의 Sliding Mode Control 적용 가능성 연구

김진민 한양대학교 대학원 2024 국내석사

Torque-Vectoring is a technology that enhances vehicle handling performance by generating additional yaw moments through distributing the output to each wheel. An electrical vehicle has a big advantage to output the desired torque to output the desired torque vector by each wheel. Due to this advantage, the vehicle that applied to Torque-Vectoring technology is continuously commercialized. To use these Torque-Vectoring technology, it is necessary to design a controller for yaw moment output as well as accurate vehicle model. However, due to the nonlinearity and uncertainties of tires, predicting these variables becomes more important. In this paper, Sliding Mode Control (SMC) is employed to ensure robustness against uncertainties and disturbances caused by tire characteristics and external environmental factors. However, increased uncertainties and disturbances aggravate one of SMC’s disadvantages: chattering. To prevent this, this study employs Long Shrot-Term Memory (LSTM) networks to predict the uncertainties variables, thereby reducing chattering. Data collection and experiments were conducted using the virtual environment simulator, CarMaker. For training the deep learning model, lateral tire friction and sensor data were collected simultaneously. The Boruta Algorithm, a sensitivity analysis technique, was used to select input variables with highly related to the prediction targets for LSTM training. The results from training the LSTM with data collected from CarMaker demonstrated high prediction accuracy. Two controllers, one using LSTM predictions and one without, were designed for comparison purpose and evaluated in driving simulations. Both models were observed to be converged, but the LSTM-based model demonstrate less chattering. Thus, this study confirms that the proposed LSTM model can effectively be applied to SMC controllers by utilizing predicted values of vehicle uncertainties. Torque Vectoring은 각 바퀴의 출력을 다르게 하여 추가적인 Yaw Moment를 생성함으로써 차량의 조향 성능을 향상시키는 기술이다. 전기자동차는 각 바퀴별로 모터를 장착하여 원하는 토크를 출력하는 것이 용이하며, 이로 인해 Torque Vectoring에 큰 이점을 가진다. 이러한 장점으로 인해 전기 자동차의 발전에 따라 Torque Vectoring 기술을 적용한 제품이 지속적으로 등장하고 있다. 이러한 Torque Vectoring 기술을 사용하기 위해서는 필요한 Yaw Moment 출력을 위한 제어기 설계가 필요하고 제어기 성능을 높이기 위해서는 정확한 차량 모델이 필요하다. 하지만 차량의 타이어는 비선형성 및 불확실성으로 인해 측정에 어려워 이를 극복하기 위한 예측 기법이 필요하다. 본 논문에서는 타이어의 인해 불확실성 변수와 외부 변수로 인한 외란에 강건한 제어를 위해 Sliding Mode Control(SMC)을 사용하였다. 하지만 불확실성 변수 및 외란의 크기가 클수록 SMC의 단점 중 하나인 Chattering 또한 심해진다. 이를 위해 Long Shrot-Term Memory(LSTM)을 통해 차량 타이어로 인한 불확실성 변수를 예측하여 Chattering 현상을 저감하는 것을 목표로 한다. 본 연구에서는 가상환경 시뮬레이션인 CarMaker를 사용하여 데이터 수집 및 실험을 진행하였다. 딥러닝 모델 학습을 위해 차량 타이어에 횡방향 마찰력과 센서 데이터를 수집하고, 민감도 분석 기법인 Boruta Algorithm을 사용하여 예측값과 관련성이 높은 입력 변수를 선택하여 LSTM 학습에 이용하였다. 먼저 CarMaker를 통해 수집한 데이터를 통해 LSTM을 학습한 결과 높은 정확성으로 예측하는 것을 확인하였다. 이를 통해 LSTM을 적용한 제어기와 적용하지 않은 제어기 두 가지를 설계하여 주행 테스트를 진행하였다. 시뮬레이션 결과, LSTM을 사용한 모델과 사용하지 않은 모델 모두 수렴하는 것을 확인하였으며, 이때 LSTM을 사용한 모델에서 Chattering 현상이 저감된 것을 확인할 수 있었다. 따라서 본 연구에서 제안된 LSTM 모델을 통해 차량의 불확실성 변수의 값을 이용하여 SMC 제어기에 적용이 가능하다는 것을 확인할 수 있었다.

LSTM 기반 이동 장애물 상대 속도 및 경로 예측을 통한 무인항공기 충돌회피기법 연구

김혜지 한서대학교 일반대학원 2020 국내석사

본 논문에서는 충돌 인식 및 회피 성능을 향상시키기 위해 LSTM 기반 이동 장애물 상대 속도 및 경로 예측을 적용한 충돌 회피 알고리즘을 제안한다. 본 논문에서 제안하는 충돌 회피 알고리즘은 물체 탐지 및 위치 추정을 수행한 후, 충돌 인식 및 회피하는 개념을 적용하여 안전한 회피를 수행하는 것을 목표로 한다. 물체 탐지를 위한 탐지 센서로 사전 정보를 알 수 없는 물체에 대한 탐지가 가능하도록 비협업센서를 사용하였다, 무인항공기에 탑재가 용이하고 2차원의 픽셀 정보로부터 물체에 대한 식별이 가능한 영상 센서와 무인항공기에 탑재가 가능하며 주변 물체에 대한 거리 및 방향을 측정할 수 있는 LiDAR를 선정하였다. 영상 센서를 활용한 물체 탐지에는 YOLOv2를 활용하여 환경 요인 변화에 따른 탐지 성능을 방지하였으며, LiDAR에서 탐지한 물체의 거리 및 방향을 영상 센서를 활용한 탐지 결과와 융합하여 탐지 물체의 위치를 추정하였다. 기존의 충돌 인식 및 회피 알고리즘은 물체의 현재 속도 또는 가속도를 이용하여 경로를 예측한 후 충돌 인식 및 회피를 수행한다. 해당 알고리즘은 속도 또는 가속도의 변화가 큰 물체에 대한 경로 예측 오차가 증가하게 되며, 이로 인해 충돌 인식 및 회피 성능이 저하된다. 이를 보완하기 위하여 본 연구에서는 시간에 따른 물체의 속도 및 위치를 예측할 수 있는 LSTM을 충돌 인식 및 회피 알고리즘에 적용하고자 한다. LSTM을 활용하여 물체의 속도 및 위치를 예측하기 위해 시간에 따른 물체의 속도 및 위치에 대한 시계열 데이터를 생성하였다. 생성한 시계열 데이터를 LSTM에 대입하여 학습을 수행하였으며, 학습 결과 정상적으로 물체의 속도 및 위치가 예측되는 것을 확인하였다. 기존의 알고리즘과 LSTM을 적용한 알고리즘의 성능을 비교 및 분석하기 위하여 시뮬레이션을 수행하였다. 시뮬레이션 수행 결과, 속도가 실시간으로 변화하는 물체에 대하여 기존의 알고리즘보다 LSTM을 적용한 알고리즘의 충돌 인식 및 회피 성능이 높은 것을 확인함으로써 본 논문에서 제안하는 알고리즘의 성능을 검증하였다. In this paper, we propose a collision avoidance algorithm of UAV using the relative velocity and trajectory estimation of moving obstacles based on LSTM to improve collision recognition and avoidance performance. The collision avoidance algorithm proposed in this paper aims to perform safe avoidance by applying the concept of collision recognition and avoidance after performing object detection and position estimation. We used non-cooperative sensor to detect an object whose prior information is unknown. We selected an image sensor that can be easily mounted on UAV and can identify objects from two-dimensional pixel information. Also we selected a LiDAR that can be mounted on UAV and can measure distances and directions of surrounding objects. We use YOLOv2 for object detection using image sensor to prevent detection performance degradation according to environmental factors. To estimate the position of the detected object, we combined with the distance and direction of the object detected by LiDAR, and the detection result using the image sensor. The existing collision recognition and avoidance algorithm performs collision recognition and avoidance after predicts trajectory using the current velocity or acceleration of the object. This algorithm degrades collision recognition and avoidance performance, because it increases the trajectory prediction error for an object with large of velocity or acceleration changes. To compensate for this, this paper applied LSTM that can predict the velocity and position of objects over time, to collision recognition and avoidance algorithms. In order to predict the velocity and position of the object using LSTM, we generated time series data about the velocity and position of the object over time. We performed LSTM learning by substituting the generated time series data. As a result of the learning, we confirmed that the velocity and position of the object were predicted normally. We performed simulation to compare and analyze the performance of the existing algorithm and the algorithm based on LSTM. As a result of the simulation, we confirmed the collision recognition and avoidance performance of the algorithm based on LSTM is higher than existing algorithm. Through this simulation result, we verified the performance of the algorithm proposed in this paper.

Assessing the impacts of dam and weir operation on streamflow predictions using LSTM across South Korea

Kwon, Yongsung 서울시립대학교 일반대학원 2023 국내석사

Recently, weather data have been applied to one of deep learning techniques known as “long short-term memory (LSTM)” to predict streamflow in rainfall-runoff relationships. However, this approach may not be suitable for regions with artificial water management structures such as dams and weirs. Therefore, this study aims to evaluate the prediction accuracy of LSTM for streamflow depending on the availability of dam/weir operational data across South Korea. Four LSTM models were designed for 25 streamflow stations. LSTMs #1 and #2 used weather data, and weather data combined with dam/weir operational data, respectively, maintaining consistent LSTM model conditions across all stations. Meanwhile, LSTMs #3 and #4 applied weather data, and a combination of weather and dam/weir operational data, respectively, while implementing unique LSTM models for individual stations. The Nash-Sutcliffe efficiency (NSE) and the root mean squared error (RMSE) were adopted to assess the LSTM’s performance. The results indicated that the mean values of NSE and RMSE were 0.277 and 292.6 (LSTM #1), 0.482 and 214.3 (LSTM #2), 0.410 and 260.7 (LSTM #3), and 0.592 and 181.1 (LSTM #4), respectively. Overall, the model performance was improved by the addition of dam/weir operational data, with an increase in NSE values of 0.182 – 0.206 and a decrease in RMSE values of 78.2 – 79.6. Interestingly, the extent of performance improvement varied according to the operational characteristics of each dam/weir. Particularly, the performance tended to increase when dams/weirs with high frequency and substantial amounts of water discharge were considered. Our findings confirm that the accuracy of streamflow predictions using LSTM is markedly improved with the inclusion of dam/weir operational data. Therefore, a comprehensive understanding of the operational characteristics of dams/weirs is crucial when utilizing their data to make reliable streamflow predictions with LSTMs. 최근 기상 데이터가 "Long Short-Term Memory (LSTM)"라는 딥러닝 기법에 적용되어 강우-유출 관계에서의 유량을 예측하는데 사용되었다. 그러나, 이런 방식은 댐이나 보와 같은 인공적인 수자원 관리 구조물이 있는 지역에는 적합하지 않을 수 있다. 따라서, 본 연구는 LSTM의 유량 예측 정확도를 대한민국 전역의 댐/보 운영 데이터의 유무에 따라 평가하는 것을 목표로 한다. 25개의 유량 관측소에 대해 4가지 LSTM 모델을 설계하였다. LSTM #1과 #2는 각각 기상 데이터와 기상 및 댐/보 운영 데이터를 사용하며, 모든 관측소에 대해 동일한 LSTM 모델을 적용하였다. LSTM #3과 #4는 각각 기상 데이터와 기상 및 댐/보 운영 데이터를 사용하며, 각 관측소별로 다른 LSTM 모델을 적용하였다. LSTM의 성능을 평가하기 위해 Nash-Sutcliffe Efficiency(NSE)와 Root Mean Squared(RMSE)를 사용하였다. 결과적으로, NSE와 RMSE의 평균 값은 각각 0.277과 292.6 (LSTM #1), 0.482과 214.3 (LSTM #2), 0.410과 260.7 (LSTM #3), 그리고 0.592와 181.1 (LSTM #4)로 나타났다. 전반적으로, 댐/보 운영 데이터의 추가는 모델 성능을 개선하였으며, NSE 값은 0.182 - 0.206 증가하였고, RMSE 값은 78.2 - 79.6 감소하였다. 성능 개선의 정도는 댐/보의 운영 특성에 따라 상이했는데, 빈번하게 대량의 물을 방출하는 댐/보가 포함될 때 모델의 성능이 향상되는 경향을 보였다. 본 연구 결과는, 댐/보 운영 데이터를 포함시킨 결과 LSTM을 이용한 유량 예측의 전반적인 성능이 향상되었다는 것을 보여주었다. 또한, LSTM을 통한 유량 예측에서 댐/보 운영 데이터를 활용하려면, 신뢰성 있는 예측을 위해 댐/보의 운영 특성에 대한 깊은 이해가 필요하다.

LSTM을 이용한 농업용트랙터 장착형 작업기의 자율주행 횡방향 오차 추정 방법

김은국 성균관대학교 일반대학원 2026 국내박사

자율주행 농업용트랙터의 횡방향 오차 성능을 평가하기 위해서는 주행 궤적에 대한 정밀한 계측은 필수적이다. 그러나 현행 자율주행 농업기계 정밀도 평가 표준인 ISO 12188-2는 차량 대표점을 후방 차축 사이의 지점으로 정의하고 있어, 실제 농작업 시 농업용트랙터에 장착된 농작업기의 궤적을 충분히 반영하지 못하는 한계를 가진다. 특히 농작업 품질은 작업기의 실제 궤적에 의해 결정되므로, 자율 농작업의 정밀도를 보다 적절히 대표할 수 있는 새로운 기준점의 정의가 요구된다. 이에 농업용트랙터에 장착된 작업기의 위치를 효과적으로 대표할 수 있는 지점으로 후방 3점 히치를 자율 농작업 평가 대표 위치로 제안하였다. 그러나 후방 3점 히치의 구조적 특성으로 인해 진동, 쏠림, 설치 오차 등 외란의 영향을 받아 직접 계측 시 다양한 외란 요소로 인한 오차로 계측 성능 저하 문제가 발생할 수 있다. 이러한 문제에 기인하여 상대적으로 외란 영향이 적은 cab을 기반으로 확장 칼만 필터(EKF)와 기하학 모델을 결합하여 후방 3점 히치를 추정하는 방법으로 접근하였다. 이는 cab 좌표로부터 yaw 및 진행 방향을 추정하고, 농업용트랙터의 cab과 후방 3점 히치의 기하학적 관계를 적용하여 후방 3점 히치를 산출하는 프로세스로 진행된다. 자율주행 궤적 계측 시험은 네 모델의 자율주행 농업용트랙터를 대상으로 cab 및 후방 3점 히치를 동시에 계측하여 자율주행 궤적을 수집하였다. 또한 예측 결과의 성능을 검증하기 위한 대조군으로 좌표와 yaw 정보를 함께 계측한 dual sensor EKF 결과를 기준값으로 설정하였다. 앞서 획득한 계측 정보를 바탕으로 single sensor EKF를 적용하였고, jerk 적응형 Savitzky–Golay 필터 및 기하학 기반 필터링 간 비교 분석을 실시하였다. 이에 따라 single sensor EKF 추정 방법은 거리 제약 유지, yaw 추정이 상대적으로 좋은 성능을 보였다. 그리고 자율 농작업 정밀도의 예측 성능을 검증하기 위해, 계측된 cab 좌표 및 산출된 yaw 관련 파생 변수를 입력으로 사용하고 single sensor EKF의 후방 3점 히치 추정 결과를 시계열 예측에 적합한 LSTM 모델에 적용하였다. RNN 계열인 LSTM과 GRU와 attention 계열인 Transformer 모델을 동일한 학습 조건에서 비교한 결과, LSTM 모델이 각 주행 속도에서 비교 모델에 비교군 내에서 가장 우수한 예측 성능을 보였다. 최종적으로 최적 모델을 선정하기 위하여 single sensor EKF 방법과 LSTM 모델 예측 방법 간 피어슨 상관 분석 및 t-검정 결과 통계적으로 차이가 있음을 확인하였고, 정량적으로 평균 제곱 오차(MSE) 약 3.9 ㎜, 평균 절대 오차(MAE) 약 1.5 ㎜ 수준의 성능과 결정계수(R²) 약 0.98 수준의 선형 상관성으로 LSTM 모델이 비교군 내에서 재현력이 가장 높음을 확인하였다. 결과적으로 cab 좌표(Single sensor)만을 이용하여 후방 3점 히치를 예측함으로써, 외란 영향으로 인해 직접 계측 시 안정성이 저하되는 농작업기 궤적을 보다 일관되게 평가할 수 있는 자율 농작업 정밀도 측정 방법임을 확인하였다. 최종 선택된 LSTM 모델은 기존 실측 방법에 비해 나은 예측 성능을 제공하여 추가적인 센서 없이 자율 농작업 정밀도 평가를 위한 대안적 접근법으로 의의를 가진다. Accurate trajectory measurement is essential for evaluating the positioning performance of autonomous agricultural tractors. However, ISO 12188-2 defines the vehicle representative point as between the rear axle centers, which does not sufficiently reflect the actual working position of tractor-mounted implements. Since agricultural work quality is primarily determined by the trajectory of the implement rather than that of the tractor body, a more representative evaluation point is required for autonomous field operations. In this study, the center point of the rear three-point hitch is proposed as a representative point for evaluating autonomous agricultural work precision. However, direct measurement of the rear three-point hitch trajectory is highly sensitive to structural vibration, lateral oscillation, and installation-related disturbances, which results in reduced measurement stability. To address this limitation, a rear hitch trajectory estimation method based on cab-mounted position data is proposed. This method combines a kinematic model with a single-sensor extended Kalman filter (EKF) to estimate yaw angle and traveling direction from cab coordinate measurements and to reconstruct the rear three-point hitch trajectory under geometric constraints. Trajectory data for the cab and rear three-point hitch positions were collected from four autonomous agricultural tractor models. The performance of the proposed EKF-based estimation method was compared with conventional kinematic and jerk-based filtering approaches. As a reference, a dual-sensor EKF solution incorporating both position and yaw measurements was defined as a multi-sensor reference. The results indicate that the single-sensor EKF provides improved stability, physical consistency, and preservation of distance constraints compared to the alternative filtering approaches. Furthermore, time-series artificial intelligence models were applied to predict the rear hitch trajectory using cab position and yaw-related features. A comparative analysis of LSTM, GRU, and Transformer models showed that the LSTM-based model achieved consistently lower estimation errors and higher linear correlation with the multi-sensor reference across various speed and disturbance conditions. Based on quantitative comparisons using correlation analysis and error metrics, the LSTM-based approach demonstrated relatively robust and consistent performance. The proposed framework enables estimation of rear three-point hitch trajectories using only cab position data, thereby reducing sensitivity to measurement disturbances and sensor requirements. This study provides a practical approach for representative precision evaluation of autonomous agricultural operations and offers a reference for consistent and reliable trajectory-based performance assessment of autonomous agricultural tractors.

ARM Cortex-M3를 사용한 Gateless-LSTM 기반 차량용 침입 탐지와 차단 시스템 설계 및 검증

박나은 숭실대학교 대학원 2025 국내석사

본 논문에서는 차량 내 네트워크인 CAN(Controller Area Network)과 CAN-FD(Controller Area Network with Flexible Data-rate) 프로토콜 의 보안 취약점을 보완하고, 실시간 침입 탐지 및 차단을 수행하기 위한 Gateless-LSTM(Long Short-Term Memory) 기반 차량용 침입 탐지 및 대응 시스템의 설계와 검증에 대해 다룬다. 이를 위해 CAN 및 CAN-FD 환경에서 모두 동작 가능한 LSTM 기반 IDS(Intrusion Detection System)를 경량화하여, 자원이 제한된 차량용 ECU(Electronic Control Unit) 환경에서도 실시간 침입 탐지가 가능한 하드웨어 아키텍처를 제안한다. 제안된 IDS는 Verilog HDL을 이용해 AMBA(Advanced Microcontroller Bus Architecture) 버스 인터페이스 기반의 IP 형태로 설계되었으며, ARM Cortex-M3 코어를 사용하는 MCU 플랫폼에서 동작하도록 구현하였다. 제안된 시스템은 99.99%의 탐지 정확도와 0.011 ms의 응답 속도(CAN-FD 기준)를 달성하였으며, 하드웨어 수준에서 실시간 침입 탐지와 차단 기능이 안정적으로 수행됨을 확인하였다. This thesis addresses the design and verification of a Gateless-LSTM(Long Short-Term Memory)-based in-vehicle intrusion detection and response system to reinforce the security of CAN(Controller Area Network) and CAN-FD(Controller Area Network with Flexible Data-rate) protocols and to enable real-time intrusion detection and blocking. To this end, a lightweight LSTM-based IDS(Intrusion Detection System) that operates in both CAN and CAN-FD environments is proposed, so that real-time intrusion detection can be achieved even in resource-constrained automotive ECU(Electronic Control Unit) platforms. The proposed IDS is implemented as an IP core based on an AMBA(Advanced Microcontroller Bus Architecture) bus interface using Verilog HDL and is designed to operate on an MCU platform equipped with an ARM Cortex-M3 core. Experimental results show that the proposed system achieves a detection accuracy of 99.99% and a response time of 0.011 ms (based on CAN-FD), demonstrating that real-time intrusion detection and blocking are reliably achieved at the hardware level.