대규모 언어모델을 활용한 시계열 예측: Coverage-aware semantic prompting 기법 연구 = Large Language Model-Based Time Series Forecasting: A Study on Coverage-Aware Semantic Prompting

국문 초록 (Abstract)

최근 프롬프트 기반 대규모 언어모델(LLM)을 활용한 시계열 예측 연구들은 주로 시계열 표현과 텍스트 임베딩 간의 의미적 정렬에 초점을 맞추고 있다. 그러나 이들은 유사도 기반 검색 메커니즘에 의존함으로써, 지배적인 과거 패턴만 반복적으로 선택하고 드물지만 중요한 시계열 이벤트를 체계적으로 간과한다는 근본적인 한계를 지닌다. 이러한 반복적 선택 행위는 제한된 구간에 대한 편향된 의존을 초래하며, 비정상적 시계열이나 구조적 변동, 희귀 이벤트와 같은 복잡한 시간적 동태를 포착하는 능력을 근본적으로 저해한다. 이러한 문제를 해결하기 위해, 본 연구는 대규모 언어모델을 이용한 커버리지 인식 의미 프롬프트 기법(CASP-LLM: Coverage-Aware Semantic Prompting via Large Language Model)을 제안한다. 제안된 방법은 의미적 유사도와 사용 빈도 간의 균형을 유지하는 커버리지 인식 선택 메커니즘을 통해 프롬프트 선택 편향을 완화하고 다양성을 증진함으로써, LLM의 의미 표현력과 예측 성능을 향상시킨다. CASP-LLM은 분해 및 토큰화된 시계열 입력을 기반으로 의미 임베딩 정렬을 수행하고, 검색 기반 디코딩(retrieval-guided decoding)을 통해 비정상성, 구조적 변화, 희귀 이벤트와 같은 복합적 패턴을 포착한다. 다변량 벤치마크 데이터셋을 이용한 실험 결과, CASP-LLM은 기존 유사도 기반 LLM 접근법 및 최신 시계열 예측 모델들보다 일관되게 우수한 성능을 보였다.

다국어 초록 (Multilingual Abstract)

Recent prompt-based large language model (LLM) approaches for time series forecasting focus primarily on semantic alignment between time series representations and textual embeddings, yet suffer from a critical limitation: their similarity-based retrieval mechanisms repeatedly select dominant historical patterns while systematically overlooking rare but informative temporal events. This repetitive selection behavior leads to biased reliance on limited segments, fundamentally undermining their ability to capture the full complexity of temporal dynamics, particularly for nonstationary series with structural shifts and rare events. To address this limitation, we propose coverage-aware semantic prompting via large language model (CASP-LLM) for time series forecasting, which enhances the semantic expressiveness and predictive capability of LLMs by promoting diversity and reducing prompt selection bias through a coverage-aware selection mechanism that balances semantic similarity with usage frequency. CASP-LLM operates on
decomposed and tokenized time series input, incorporates semantic embedding alignment, and employs retrieval-guided decoding, enabling it to capture complex patterns such as rare events, nonstationarity, and structural changes. Experimental results on multivariate benchmark datasets show that CASP-LLM consistently outperforms both existing similarity-based LLM approaches and other
state-of-the-art time series forecasting methods.

목차 (Table of Contents)

• 그림 차례 ⅲ
• 표 차례 ⅳ
• 국문 요약 ⅴ
• 제 1장 서론 1
• 1.1. 연구 목적 및 필요성 1
• 1.2. 연구 기여점 3
• 제 2 장 관련 연구 5
• 2.1. 시계열 예측 5
• 2.2. LLM 기반 시계열 예측 6
• 제 3 장 연구 방법 7
• 3.1. 문제 정의 7
• 3.2. 시계열 분해 및 토큰화 9
• 3.3. 의미 임베딩 및 프롬프트 매칭 10
• 3.4. Coverage-aware 정규화 12
• 3.5. Prompt-Augmented Decoding 13
• 3.6. 데이터셋 14
• 3.7. 성능 평가 방법 16
• 제 4 장 실험 결과 18
• 4.1. 실험 환경 18
• 4.2. 장기 예측 18
• 4.3. 단기 예측 21
• 4.4. Ablation 및 구조 민감도 분석 22
• 4.5. Coverage-aware 선택이 프롬프트 다양성에 미치는 영향 24
• 4.6. Coverage-aware 선택이 이 프롬프트 선택 집중도에 미치는 영향 26
• 4.7. Coverage 계수가 임베딩에 미치는 영향 27
• 4.8. 정성적 분석 30
• 제 5 장 결론 31
• 5.1. 연구 요약 및 성과 31
• 5.2. 한계점 32
• 5.3. 향후 연구 33
• 참고문헌 35
• 영문 요약 39