시간-주파수 분석 및 비전 트랜스포머 기반 주식 변동성 예측 = Leveraging Vision Transformer with Time-Frequency Representations for Predicting Stock Volatility

국문 초록 (Abstract)

금융 시장의 변동성 예측은 데이터의 비선형성 및 비정상성으로 인해 여전히 어려운 과제이다. 기존의 정량적 접근 방식은 시계열에 내재된 다중 스케일 정보를 포착하는 데 어려움이 있으며, 합성곱 신경망(CNN) 기반 이미지 접근 방식은 주로 국소적 패턴에 초점을 맞추어 전역적 컨텍스트를 효과적으로 통합하지 못한다. 이러한 한계를 해결하기 위해, 본 연구는 TF-ViTNet이라는 이중 경로 하이브리드 모델을 제안한다. 이 모델은 4개의 기술적 지표 시계열을 Continuous Wavelet Transform(CWT)를 통해 2x2 그리드 형태의 '금융 지표 맵' 스케일로그램으로 변환하고, 이를 Vision Transformer(ViT)를 사용하여 분석한다. 모델은 병렬 아키텍처를 채택하며, ViT 경로는 스케일로그램으로부터 전역적 시공간 패턴을 학습한다. 동시에 Long Short-Term Memory(LSTM) 경로는 OHLCV 시계열 데이터로부터 시간적 특성을 포착한다. 두 경로에 서 독립적으로 추출된 특징은 변동성 예측을 위해 최종 단계에서 통합된다. 2010년부터 2024년까지의 NASDAQ 및 S&P 500 인덱스 데이터를 사용한 실증 분석 결과, TF-ViTNet은 수치 데이터만 사용하는 LSTM 모델이나 기존 벤치마크 모델 대비 일관된 성능을 보였다. 병렬 아키텍처에서 Vision Transformer는 CNN보다 스케일로그램의 전역적 패턴을 더 효과적으로 포착하였으며, 특히 S&P500에서 우수한 성능 향상을 달성했다. 제안 모델은 변동성이 높은 구간에서도 안정적인 예측력을 유지하여 리스크 관리 도구로서의 강력한 잠재력을 보여주었다. 또한, 'Masking' 데이터 증강 기법은 TF-ViTNet의 성능 향상에 결정적인 역할을 하였다. 증강 기법을 적용하지 않았을 때 모델 성능은 저조했으나, 'Masking' 적용 시 두 시장 모두에서 뛰어난 성능을 달성했다. 이는 제안 모델이 '금융 지표 맵'의 복잡한 시각 정보를 학습할 때 과적합 방지를 위해 적절한 데이터 증강이 필수적임을 강조한다.

목차 (Table of Contents)

• 제1장 서 론 1
• 제2장 관련 연구 6
• 2.1 딥러닝 기반 금융 시계열 예측 모델 6
• 2.2 금융 시계열 예측을 위한 시간-주파수 분석 8
• 2.3 변동성 모델링 및 예측 9
• 2.4 시장 예측을 위한 비전 기반 접근 방식 11
• 제3장 제안 방법 12
• 3.1 시간-주파수 분석 13
• 3.2 Vision Transformer(ViT) 15
• 3.3 제안 모델 TF-ViTNet 전체 아키텍처 개요 18
• 3.3.1 이중 경로 특징 추출 20
• 3.3.2 특징 융합 및 예측 21
• 3.3.3 TF-ViTNet 하이퍼파라미터 22
• 3.4 Vision Data 경로 금융 지표 맵 24
• 3.5 평가 지표 26
• 제4장 실험 및 결과 27
• 4.1 실험 세팅 27
• 4.1.1 데이터 셋 28
• 4.1.2 구현 세부 정보 32
• 4.1.3 벤치마크 비교 모델 33
• 4.2 실험 결과 35
• 4.2.1 종합 예측 성능 35
• 4.2.2 기간별 성능 분석 37
• 4.2.3 데이터 증강 기법의 영향 40
• 4.2.4 변동성 군집 예측력 분석 43
• 4.2.5 변동성 구간별 예측 성능 45
• 4.2.6 S&P 500 상위 50 종목 및 Russell 3000 저유동성 주식 47
• 제5장 결 론 49
• 참고문헌 53
• ABSTRACT 60