해상 안전 정보 정확성 향상을 위한 마스크드 언어 모델링 기반 메시지 NAVTEX 오류 복원 기법 연구=

다국어 초록 (Multilingual Abstract)

Maritime safety communications require reliable performance to protect human lives and ensure operational safety at sea. Current error correction methods, particularly Forward Error Correction, have limitations in recovering NAVTEX messages when multi-bit errors occur during challenging transmission conditions.
This study presents a transformer-based approach for NAVTEX message restoration using masked language modeling. The research evaluates transformer encoder and decoder architectures with character-level and unigram tokenization methods.
Results indicate that the transformer encoder model with character-level tokenizer achieves 90.0% overall restoration accuracy. The system demonstrates restoration rates exceeding 93.0% for spaces, alphabets, and special characters, while achieving 59.3% for digits. The system maintains 85.0% accuracy even under 33% error rate conditions.
The proposed system operates with 88 MB VRAM usage and 8 ms inference time, meeting real-time processing requirements. This software approach complements existing NAVTEX infrastructure without hardware modifications.

국문 초록 (Abstract)

해상 안전 정보의 신뢰성 있는 전달은 해상에서의 인명 보호와 운항 안전성 확보에 필수적이다. 그러나 기존 NAVTEX 시스템의 FEC 오류 정정 방식은 무선 통신 과정에서 발생하는 모든 오류를 완전히 복원하지 못하는 한계가 있어, 소프트웨어 기반의 추가적인 복원 방법이 요구된다.
본 연구는 딥러닝 기반 자연어 처리 기법을 활용하여 NAVTEX 메시지의 오류를 자동으로 복원하는 방법을 제안한다. 10년간 수집된 NAVTEX 메시지로부터 학습 데이터를 구축하고, 트랜스포머 인코더와 디코더 모델을 문자 단위 및 유니그램 토크나이저와 결합한 네 가지 구성을 설계하여 마스크드 언어 모델링 기법으로 학습하였다.
실험 결과, 문자 단위 토크나이저와 트랜스포머 인코더를 결합한 모델이 전체 복원율 90%로 가장 우수한 성능을 보였다. 공백, 알파벳, 특수문자에서는 93% 이상의 높은 복원율을 기록했으나, 숫자 복원에서는 59.3%로 제한적 성능을 보여 좌표나 시간 정보 복원에 추가적인 개선이 필요함을 확인하였다. 오류율 33%의 조건에서도 85.8%의 복원율을 유지하였다.
제안된 방법은 88MB 이하의 메모리 사용량과 8ms 이하의 추론 시간으로 해상 운용 환경에서의 실시간 처리가 가능하다. 본 연구는 기존 NAVTEX 시스템의 한계를 보완하는 소프트웨어적 접근법을 제시하였으며, 향후 실제 해상 환경에서의 검증을 통해 해상 안전 정보 시스템의 신뢰성 향상에 기여할 수 있을 것으로 기대된다.

목차 (Table of Contents)

• List of Tables ⅲ
• List of Figures ⅳ
• List of Abbreviations ⅴ
• Abstract ⅵ
• 1. 서 론 1
• 1.1 연구 배경 및 필요성 1
• 1.2 연구 목적 및 범위 4
• 2. 딥러닝 자연어 처리 기법과 NAVTEX 메시지 오류 6
• 2.1 딥러닝 기반 자연어처리 기법 6
• 2.1.1. 딥러닝 기반 자연어처리의 발전 6
• 2.1.2. 트랜스포머 기반 모델 구조 13
• 2.1.3. 마스크드 언어 모델 15
• 2.1.4. 토큰화 기법 17
• 2.2 NAVTEX 메시지 오류 복원 기술 및 선행 연구 19
• 2.2.1. NAVTEX 메시지 구조와 메시지 오류 복원 기술 19
• 2.2.2. NAVTEX 관련 선행 연구 23
• 3. 딥러닝 활용 NAVTEX 오류 복원 모델 설계 및 실험 25
• 3.1 설계 개요 25
• 3.2 NAVTEX 메시지 토크나이저 선정 27
• 3.3 딥러닝 기반 NAVTEX 오류 복원 모델 설계 29
• 3.4 학습 및 평가용 데이터 구축 33
• 3.4.1. NAVTEX 메시지 데이터 수집 및 전처리 33
• 3.4.2. 딥러닝 모델 구현 및 학습 과정 35
• 3.5 NAVTEX 오류 복원 모델 실험 37
• 3.5.1. 토크나이저 구현 및 비교 분석 37
• 3.5.2. 딥러닝 모델 구현 및 학습 과정 39
• 3.5.3. 하이퍼파라미터 최적화 및 성능 튜닝 42
• 4. NAVTEX 메시지 복원 모델 성능 평가 및 분석 45
• 4.1 모델 평가 지표 및 평가 방법 선정 45
• 4.2 토크나이저 및 모델 아키텍처별 복원 성능 실험 결과 48
• 4.2.1. 오류 문자 유형에 따른 복원율 비교 48
• 4.2.2. 메시지 오류율에 따른 복원율 비교 52
• 4.2.3. 모델 파라미터 수 및 추론 시간 비교 55
• 4.3 복원율 및 연산 효율 결과에 대한 분석 60
• 4.3.1. 모델 성능 분석 60
• 4.3.2. 모델 실용성 분석 62
• 4.3.3. 모델 설명가능성 분석 64
• 5. 결론 및 향후 연구 68
• 참고문헌 73
• 부 록 79
• A.1 NAVTEX 메세지 원본 데이터 79
• A.2 NAVTEX 메세지 복원 모델 학습 데이터 80
• A.3 NAVTEX 메세지 복원 사례 82
• A.4 어텐션 가중치 시각화 그래프 84
• A.5 전체 어텐션 히트맵 90
• 초록 96