시장 상태 적응형 Hybrid GA-ESN 기반 주가 예측 알고리즘 트레이딩 시스템에 관한 실증연구: DIA, QQQ, SPY, KOSPI200 지수를 중심으로 = An Empirical Study on a Market Regime-Adaptive Hybrid GA-ESN based Algorithmic Trading System for Stock Price Prediction: Evidence from DIA, QQQ, SPY and KOSPI200

다국어 초록 (Multilingual Abstract)

The financial market, characterized by non-linearity and non-stationarity, poses a significant challenge for traditional forecasting models. This study proposes a Hybrid Genetic Algorithm-Echo State Network (GA-ESN) Model to overcome the limitations of conventional Technical Analysis (TA) and enhance the accuracy of stock price prediction, specifically focusing on market turning points. The methodology integrates three core elements: Technical Analysis (GC, ENV, RSI), Genetic Algorithms (GA), and the Echo State Network (ESN). GA is utilized as an intelligent optimization tool to automatically determine the optimal parameters for the TA indicators and ESN Hyper-parameters, compensating for their inherent weaknesses such as noise and parameter sensitivity. The optimized TA signals are then fed as input features into the ESN, a type of Recurrent Neural Network based on Reservoir Computing, known for its efficiency and ability to learn complex non-linear temporal patterns in financial time series. A crucial aspect of this research is the Market Regime Classification based on Stability and Volatility. The market is segmented into four distinct regimes—Stable–Non-Volatile, Stable–Volatile, Trend–Non-Volatile, and Trend–Volatile—to empirically verify the model’s performance and adaptability. The empirical analysis is performed on major global index and their tracking ETFs (DIA, QQQ, SPY, and KOSPI200) using daily closing price data from January 2000 to September 2025. Furthermore, the study compares the performance of a Static ESN with a Cross-Validation ESN (CV-ESN) to assess the effectiveness of an adaptive learning structure. The empirical results demonstrate that the proposed hybrid CV-ESN approach significantly improves market adaptability and stability of returns compared to B&H(Buy and Hold) strategy and the Static ESN. Specifically, This study successfully validates that integrating GA-optimized TA signals with a market-adaptive ESN learning structure can enhance prediction accuracy and risk management efficiency, providing a robust Intelligent Trading Framework for stable profit generation even in volatile market regimes.

Keyword : Algorithmic Trading, Stock Price Prediction, Hybrid Model, Genetic Algorithm (GA), Echo State Network (ESN), Market Regime Classification.

목차 (Table of Contents)

• 제 1 장 서론 1
• 제 1 절 연구의 배경 및 목적 2
• 1. 연구의 배경 2
• 2. 연구의 목적 3
• 제 2 절 연구의 범위와 구성 4
• 1. 연구의 범위 4
• 2. 연구의 구성 5
• 제 2 장 이론적 배경 7
• 제 1 절 기술적 분석 지표 8
• 1. 골든 크로스(Golden/Dead Cross, GC) 9
• 2. 엔벨로프 이동평균(Envelope Moving Average, Envelope MA) 10
• 3. 상대 강도 지수(Relative Strength Index, RSI) 12
• 4. 매수·보유 전략(Buy & Hold, B&H) 14
• 제 2 절 전환점 탐지(Turning Point Detection) 16
• 1. 평활화(Smoothing)를 이용한 전환점 후보 추출 17
• 2. 삼각파 표적 함수(Triangle Target) 18
• 제 3 절 유전 알고리즘(Genetic Algorithm, GA) 19
• 1. 초기 집단 생성(Initialization) 20
• 2. 적합도 평가(Fitness Evaluation) 20
• 3. 선택(Tournament Selection) 21
• 4. 교차(Crossover) 21
• 5. 돌연변이(Mutation) 22
• 6. 최종 해 선택(Final Selection) 23
• 제 4 절 에코 스태이트 네트워크(Echo State Network, ESN) 23
• 1. ESN 구조 24
• 2. Reservoir 상태 업데이트 25
• 3. 출력층 학습(Readout Training) 27
• 4. ESN 하이퍼파라미터(Hyper-Parameters) 28
• 5. ESN의 금융 응용 구조 29
• 제 5 절 시장 상태 분류(Market State Classification) 30
• 1. 시장 상태 분류의 개념 30
• 2. 시장 상태 분류의 이론적 배경 32
• 제 3 장 연구 방법 36
• 제 1 절 연구개요 및 개략 프레임워크 36
• 1. 연구개요 36
• 2. 연구 프레임워크 37
• 제 2 절 상세 프레임워크 39
• 1. 분석 데이터 선정 39
• 2. 데이터 셋 구성 41
• 3. 데이터 전처리 42
• 4. GA 최적화 및 ESN 입력신호 생성 55
• 5. ESN(Echo State Network) 모델 학습 및 평가 55
• 제 4 장 연구 결과 63
• 제 1 절 예측 전략 및 기술 지표별 성과 비교 65
• 제 2 절 CV ESN 시장 상태별/기술적 분석 지표별 성과 74
• 제 5 장 결론 81
• 제 1 절 연구 결과의 요약 81
• 제 2 절 연구의 시사점 84
• 제 3 절 연구의 한계점 및 향후 연구 86
• 참 고 문 헌 88
• 부 록 91