Comprehensive Analysis of Efficient Deep Learning-Based SNR Estimation for OFDM Systems = OFDM 시스템의 효율적인 딥러닝 기반 SNR 추정에 대한 종합적인 분석

국문 초록 (Abstract)

정확한 SNR 추정은 현대 무선 통신 시스템의 근간을 이루며, 채널 용량 최적화, 링크 품질 모니터링, 적응형 변조, 에너지 효율적 전송을 가능하게 한다. 최소 자승법(Least Squares) 및 최소 평균 제곱 오차(Minimum Mean Square Error)와 같은 전통적인 추정 방법은 저 SNR 환경 및 복잡한 채널 조건에서 성능이 크게 저하되며, 분류 기반 딥러닝 접근법은 테스트 SNR 값이 이산적인 학습 레이블 사이에 위치할 경우 양자화 오차를 유발한다. 본 논문은 다양한 무선 환경에서의 SNR 추정을 위한 강인하고 일반화 가능한 솔루션으로서 회귀 기반 합성곱 신경망(CNN) 아키텍처를 연구한다. 첫 번째 연구 질문은 회귀 기반 SNR 추정에 가장 적합한 CNN 아키텍처가 무엇인지, 그리고 어떠한 아키텍처 특성이 다양한 조건에서의 강인성을 결정하는지를 탐구한다. 본 연구에서는 정합 및 불일치 SNR 분포, 다중 변조 방식, 네 가지 학습 데이터셋 분포 조건 하에서 AWGN, Rayleigh, Rician 채널 전반에 걸쳐 여섯 가지 CNN 모델을 비교한다. 실험 결과, Xception 과 ResNet-18 이 다른 아키텍처들을 지속적으로 능가하며, 이는 파라미터 수보다 아키텍처 설계가 더 중요함을 확인한다. Xception의 깊이별 분리 가능 합성곱(depthwise separable convolution)은 Rayleigh 페이딩 환경에서 강인성을 제공하는 반면, ResNet-18의 잔차 연결(residual connection)은 Rician 및 AWGN 환경에서 가장 효과적임이 입증되었다. 모든 회귀 모델은 분류 기반 접근법이 본질적으로 실패하는 SNR 불일치 조건에서도 신뢰할 수 있는 일반화 성능을 보인다.
두 번째 연구 질문은 학습 후 압축(post-training compression)을 통해 정확도를 유지하면서 모델 크기를 줄일 수 있는지, 그리고 단일 최적화 압축 모델을 처음부터 재학습하지 않고 여러 채널 환경에 미세 조정(fine-tuning)할 수 있는지를 조사한다. 본 연구에서는 경량 ResNet-18 기반 CNN에 절단된 특이값 분해(Truncated Singular Value Decomposition) 압축 기법과 가우시안 프로세스 대리 모델을 활용한 베이즈 최적화(Bayesian Optimization)를 적용하여, 회귀 기반 SNR 추정에 대한 베이즈 하이퍼파라미터 최적화의 첫 번째 체계적 적용 사례를 제시한다. 적당한 수준의 압축은 모든 채널 조건에서 추정 정확도를 유지하며, 베이즈 최적화는 페이딩 채널에서 가장 두드러진 성능 향상과 함께 추정 오차를 지속적으로 감소시킨다. 또한 단일 최적화 압축 모델이 간략한 미세 조정을 통해 세 가지 채널 유형 모두에 성공적으로 적응함으로써, 독립적인 재학습 없이 채널 적응형 배포가 가능함을 확인한다.
세 번째 연구 질문은 이상적인 평가 환경과 실제 배포 환경 간의 간극을 해소하고자, 완전한 OFDM 신호 처리 프레임워크 내에서의 SNR 추정을 연구한다. 먼저 기존의 경량 CNN을 OFDM 처리된 신호에 적용하면 Rician 페이딩 환경에서 심각한 성능 저하가 발생함을 보이며, 이는 비-OFDM 평가가 체계적인 낙관 편향(optimism bias)을 유발함을 드러낸다. 이후 OFDM 통합 페이딩 조건을 목표로, 아키텍처 및 학습 하이퍼파라미터 모두에 대한 베이즈 최적화를 통해 새로운 CNN 아키텍처를 설계하였다. SVD 압축 적용 후, 결과 모델은 전체 SNR 범위에서 경쟁력 있는 성능을 유지하면서 기존 경량 기준 모델 대비 약 3.5배 적은 파라미터 수를 달성한다. 본 논문은 실용적인 CNN 기반 SNR 추정을 위한 아키텍처 선택, 베이즈 최적화, 모델 압축, OFDM 인식 배포에 이르는 완전한 파이프라인을 제시하며, 자원이 제한된 IoT, 5G, Wi-Fi 엣지 장치에서 효율적이고 채널 적응형 추정이 실현 가능함을 확인한다.

다국어 초록 (Multilingual Abstract)

Accurate SNR estimation is fundamental to modern wireless communication systems, enabling channel capacity optimization, link quality monitoring, adaptive modulation, and energy-efficient transmission. Traditional estimation methods such as Least Squares and Minimum Mean Square Error degrade significantly under low-SNR and complex channel conditions, while classification-based deep learning approaches introduce quantization errors when test SNR values fall between discrete training labels. This thesis investigates regression-based Convolutional Neural Network architectures as a robust and generalizable solution for SNR estimation across diverse wireless environments.
The first research question examines which CNN architectures are best suited for regression-based SNR estimation and what architectural properties determine cross-condition robustness. We compare six CNN models across AWGN, Rayleigh, and Rician channels under matched and mismatched SNR distributions, multiple modulation schemes, and four training dataset distributions. Results establish that Xception and ResNet-18 consistently outperform other architectures, confirming that architectural design matters more than parameter count. Xception's depthwise separable convolutions provide robustness under Rayleigh fading, while ResNet-18's residual connections prove most effective in Rician and AWGN environments. All regression models demonstrate reliable generalization under mismatched SNR conditions where classification approaches inherently fail.
The second research question investigates whether post-training compression can reduce model size while preserving accuracy, and whether a single optimized compressed model can be fine-tuned across multiple channel environments without retraining from scratch. We apply truncated Singular Value Decomposition compression and Bayesian Optimization with a Gaussian Process surrogate to a lightweight ResNet-18-based CNN, establishing the first systematic application of Bayesian hyperparameter optimization to regression-based SNR estimation. Moderate compression preserves estimation accuracy across all channel conditions, Bayesian optimization consistently reduces estimation error with the most pronounced gains under fading channels, and a single optimized compressed model successfully adapts to all three channel types through brief fine-tuning, confirming channel-adaptive deployment without independent retraining.
The third research question addresses the gap between idealized evaluation and real-world deployment by investigating SNR estimation within a complete OFDM signal processing framework. We first show that applying an existing lightweight CNN to OFDM-processed signals causes severe performance degradation under Rician fading, revealing that non-OFDM evaluations introduce systematic optimism bias. We then designed a novel CNN architecture through Bayesian Optimization over both architectural and training hyperparameters, targeting OFDM-integrated fading conditions. After SVD compression, the resulting model achieves approximately 3.5 times fewer parameters than the existing lightweight baseline while maintaining competitive performance across the full SNR range.
This thesis establishes a complete pipeline spanning architectural selection, Bayesian optimization, model compression, and OFDM-aware deployment for practical CNN-based SNR estimation, confirming that efficient and channel-adaptive estimation is achievable on resource-constrained IoT, 5G, and Wi-Fi edge devices.

목차 (Table of Contents)

• 1. INTRODUCTION 1
• 1.1 Thesis Statement, Objective and Contribution 4
• 1.1.1 Thesis Statement 4
• 1.1.2 Thesis Objective 4
• 1.1.3 Thesis Contribution 4
• 1.1.4 Research Questions 5
• 1.1.5 Publications on Research Questions 7
• 2. BACKGROUND AND RELATED WORKS 9
• 2.1 Thesis Background 9
• 2.1.1 Wireless Communication System . 10
• 2.1.2 OFDM-Based Systems 10
• 2.1.3 DL Models 11
• 2.2 Related Works 13
• 2.2.1 Optimization Techniques for DL 16
• 2.2.2 Development of Bayesian Optimization 18
• 2.2.3 DL Models Compression 19
• 3. SNR ESTIMATION 21
• 3.1 Regression-Based SNR Estimation Framework 21
• 3.1.1 Transmitter 22
• 3.1.2 Channel 23
• 3.1.3 Receiver 23
• 3.2 CNN Estimators 24
• 3.2.1 Signal Preprocessing 24
• 3.2.2 Dataset 30
• 3.2.3 Data Labeling 32
• 3.2.4 CNN Model Traning 32
• 3.3 Bayesian Optimized Low-Rank Compression 33
• 3.3.1 Low Rank Compression of the Trained Model 34
• 3.3.2 Bayesian Optimized Low Rank Compression 36
• 3.4 OFDM Systems 38
• 3.4.1 OFDM Conversion 39
• 3.4.2 Preprocessing 42
• 3.5 Proposed DL Architecture 42
• 4. RESULTS 47
• 4.1 CNN Estimators on Core Regression Task 47
• 4.1.1 Performance Analysis Over AWGN Channel 48
• 4.1.2 Performance Analysis Over Rayleigh Fading Channel 50
• 4.2 Best CNN Estimator 52
• 4.2.1 SNR Mismatch Scenario 54
• 4.2.2 Channel Mismatch Scenario 59
• 4.2.3 Modulation Mismatch Scenario 61
• 4.2.4 Robustness Analysis 62
• 4.2.5 Computational Complexity Analysis 63
• 4.2.6 Overall Evaluation Analysis 64
• 4.3 Low Rank Compression 68
• 4.4 Bayesian Optimized Low-Rank Compression 70
• 4.4.1 Evauation Cases 70
• 4.4.2 Scenarios 76
• 4.4.3 Interchange Compression and Fine Tuning 79
• 4.5 Performance on OFDM System 81
• 4.6 Proposed DL Architecture Based on Findings 82
• 5. CONCLUSION 85
• 5.1 CNN Estiomators 85
• 5.2 Optimization and Compression 85
• 5.3 Proposed Architecture 86
• 6. FUTURE DIRECTIONS 88
• BIBLIOGRAPHY 89
• ACKNOWLEDGEMENT 96
• APPENDICES 97
• Datasets 97
• Regression-based Model Modification 101
• Training 102
• Trained Model Evaluation . 102
• Model Optimization 103
• Model Compression 104