조선업 3종기업의 주가흐름 분석 및 예측에 대한 연구 : 가법적 구조 기반의 다변량 LSTM의 적용 및 고찰 = A Study on Stock Price Analysis and Prediction for Three Major Shipbuilding Companies: Application and Consideration of Multivariate LSTM with Additive Structures

국문 초록 (Abstract)

본 연구는 글로벌 경기 변동 및 유가, 환율 등 외부 변수에 민감하게 반응하는 한국 조선업 3종 기업 (삼성중공업, 한화오션, HJ중공업)의 주가 흐름을 분석하고, 예측 정밀도를 제고하기 위한 가법적 구조 (Additive Structure) 기반의 다변량 LSTM 모형을 제안한다.
기존의 다변량 시계열 모형은 투입되는 외생 변수의 수가 증가함에 따라 변수 간 정보 간섭이 발생하거나 학습의 통계적 복잡도가 심화되는 한계가 존재한다. 이를 보완하기 위해 본 연구는 예측 대상 변수의 직전 시점 실제값인 단일 스칼라 전일 종가를 선형적 가법 기준점 (Additive Baseline)으로 특정하여 출력층에 직접 결합하는 가법적 구조를 설계함으로써, 고차원 입력 행렬의 차원을 엄밀하게 격리하고 주가 데이터 본연의 기저 추세 보존력을 향상시켰다. 실증분석 결과, 제안된 모형은 거시 경제 지표를 포함한 다변량 환경하에서 기존 모형 대비 RMSE 및 MAPE 지표에서 우수한 성능을 기록하며 안정적인 기저 추세 학습 능력을 입증하였다.
특히 본 연구는 학습된 모형을 활용한 외연 미래 투사 실험을 통해, 딥러닝 모형이 외부의 비정형적 충격을 인지하지 못하고 과거 패턴을 고수하려는 '관성적 이격 (Inertial Bias)' 현상의 원인을 분석하고, 이러한 정보 단절 구간에서의 예측 경직성을 해소하기 위해, 본 연구는 기업 고유의 특수 사건을 계량화한 비정상 수익률 (Abnormal Return, AR) 피드백 기제를 도입하여 예측 궤적을 재구조화 (Restructuring)하였다.
연구 결과, AR (비정상 수익률) 피드백을 통한 동적 교정 모형은 종목별로 차별화된 상이한 개선 효과를 입증하였다. 특히 외연 투사 초기 단계에서 강한 하향 관성으로 인해 과소 예측 (음의 이격)이 심화되었던 삼성중공업의 경우, AR 신호 주입을 통해 모형의 투사 경로를 상향 굴절시킴으로써 RMSE를 약 67.04% 대폭 감소시키고 MAPE를 0.594%에서 0.1631%로 개선되는 등 실제 주가 궤적에 대한 밀착도를 향상시켰다. 비록 극단적 외생 충격이 집중된 한화오션과 HJ중공업의 경우 국소적 충돌로 인해 이차 오차 지표 (RMSE)가 소폭 상승하는 과잉 교정 (Over-calibration) 현상을 노출하기도 하였으나, 한화오션의 평균절대편차(MAD)가 0.0199에서 0.0178로 감소한 점과 모든 분석 대상 종목에서 궤적의 '추세적 평행성(Parallelism)' 및 방향성 복원력을 회복한 점은 본 교정 메커니즘의 실전적 유효성을 방증한다.
결론적으로 본 연구는 수치 정형 데이터 기반의 AI 모형이 외생 정보 단절 구간에서 지니는 '모수적 기억 관성'과 구조적 한계를 자본자산가격결정모형(CAPM) 기반의 비정상 수익률(AR) 피드백 기제 도입을 통해 수리적으로 제어할 수 있음을 실증하였다. 이는 불확실성이 높은 금융 시장에서의 실전적 환경 적응성을 확보하는 하이브리드 예측 시스템의 방법론적 단초를 제시했다는 점에서 높은 학술적·실무적 의의를 갖는다.

목차 (Table of Contents)

• 제1장 서 론 1
• 제1절 연구 배경 및 필요성 1
• 1. 연구 배경 1
• 2. 연구의 필요성 2
• 제2절 연구의 목적 및 연구 범위 4
• 1. 연구의 목적 4
• 2. 연구의 범위 5
• 제2장 이론적 배경 7
• 제1절 금융시계열 및 전통적 예측기법 7
• 1. 금융 시계열 데이터의 특성 7
• 2. 전통적 예측모형의 한계 7
• 제2절 딥러닝 기반 시계열 예측 모형 및 선행연구 9
• 1. LSTM (Long Short-Term Memory)의 구조와 원리 9
• 2. 단변량 및 다변량 LSTM의 분석 체계 10
• 3. LSTM을 활용한 주가 예측 선행 연구 11
• 4. 선행 연구와의 차별성 15
• 제3장 연구방법론 18
• 제1절 연구 대상 및 데이터 수집 18
• 1. 연구 대상 선정의 당위성 18
• 2. 데이터 수집 및 구성 18
• 제2절 변수 정의 및 기초 통계 분석 19
• 1. 변수의 정의 19
• 2. 기초 통계량 분석 19
• 3. 변수 간 상관관계 분석 (Correlation Analysis) 21
• 제3절 데이터 전처리 및 제안 모델 설계 23
• 1. 결측치 처리 및 데이터 정규화 23
• 2. 직전 시점 상태 보존 기반의 가법적 (Additive) 아키텍처 설계 24
• 제4절 모델 구성 및 평가 지표 29
• 1. 하이퍼파라미터 설정 및 변동성 지표 생성 29
• 2. 모델 성능 평가 지표 30
• 제4장 모델의 성능 검증 및 평가 34
• 제1절 전통적 예측 모형의 결과 및 한계 34
• 제2절 실험 환경 및 최적 하이퍼파라미터 설정 36
• 1. 랜덤 서치 (Random Search)를 통한 하이퍼파라미터 최적화 36
• 2. 하이퍼파라미터 최적화 및 가우시안 프로세스 기반 수렴 분석 37
• 제3절 단변량 LSTM 기반 주가 예측 결과 비교 51
• 1. 테스트 데이터셋 (Test Dataset) 성능 평가 및 시각화 분석 52
• 2. 소결 54
• 제4절 다변량 LSTM 기반 주가 예측 결과 비교 55
• 1. 테스트 데이터셋 (Test Dataset) 성능 평가 55
• 2. 주가 예측 궤적 및 시각적 특성 분석 56
• 3. 소결 59
• 제5절 가법적 다변량 LSTM (Additive LSTM) 예측 결과 59
• 1. 인 샘플 테스트 성능 평가 결과 59
• 2. 주가 예측 궤적 및 시각적 특성 분석 61
• 3. 소결: 모델 성능 개선 기여도 분석 63
• 제6절 전통적 시계열 모형과 LSTM 계열 모형의 종합 고찰 65
• 제5장 실전 투사의 한계 및 심층연구 논의 69
• 제1절 연습에서 실전으로의 전이 (Transition from Validation to Projection) 69
• 제2절 미래 예측 구간의 종목별 이격 양상과 현상적 특징 70
• 제3절 기업별 특수 사건 (Firm-specific Events)과 정형 데이터의 한계 74
• 제4절 비정상 수익률 (AR) 개념 도입을 통한 오차 교정 가능성 77
• 제5절 실전 투사 모델의 한계와 비정형 데이터의 가치 및 심층연구 논의 89
• 제6장 결 론 92
• 제1절 연구의 요약 및 성과 92
• 제2절 연구의 학술적 및 실무적 기여도 93
• 제3절 연구의 한계점 및 향후 과제 94
• 참고문헌 95
• 부 록 100
• ABSTRACT 106