Compressed Sensing Using Variational Garrote = 변분 가로테를 이용한 압축 감지

다국어 초록 (Multilingual Abstract)

The classical Shannon-Nyquist sampling theorem dictates that perfect signal reconstruction requires sampling rates at least twice the signal's highest frequency, often imposing significant inefficiencies in high-dimensional data acquisition. Compressed Sensing (CS) overcomes this by exploiting signal sparsity, typically employing the Least Absolute Shrinkage and Selection Operator (LASSO) for reconstruction. However, standard LASSO (ℓ1-regularization) suffers from inherent limitations, including shrinkage bias that underestimates large coefficients and inconsistent variable selection in correlated feature spaces. To address these shortcomings, this paper introduces the Variational Garrote (VG) into the CS framework. VG is a probabilistic regression model that effectively approximates ℓ0-regularization by explicitly decoupling variable selection from coefficient estimation. Through extensive experiments on 1D synthetic and real-world audio signals, as well as 2D image reconstruction using Radon transforms, we demonstrate that VG significantly outperforms LASSO. Specifically, VG exhibits superior noise robustness and consistently lower generalization errors in data-scarce regimes. Furthermore, in sparse-view CT reconstruction, VG demonstrates remarkable statistical stability with tighter error margins, highlighting its potential as a reliable and precise alternative for advanced signal recovery applications.

국문 초록 (Abstract)

고전적인 섀넌-나이퀴스트(Shannon-Nyquist) 샘플링 정리에 따르면, 완벽한 신호 복원을 위해서는 신호의 최고 주파수보다 최소 두 배 이상의 속도로 샘플링해야 하며, 이는 고차원 데이터 수집에 있어 종종 심각한 비효율성을 초래한다. 압축 감지(Compressed Sensing, CS)는 신호의 희소성(sparsity)을 활용하여 이러한 한계를 극복하며, 복원을 위해 주로 LASSO(Least Absolute Shrinkage and Selection Operator) 기법을 사용한다. 그러나 표준 LASSO(ℓ1-정규화)는 큰 계수를 과소평가하는 수축 편향(shrinkage bias)과 상관관계가 높은 특성 공간(feature space)에서 변수 선택의 비일관성과 같은 내재적인 한계를 지닌다.이러한 단점을 해결하기 위해, 본 논문은 CS 프레임워크에 변분 가로테(Variational Garrote, VG)를 도입한다. VG는 변수 선택과 계수 추정을 명시적으로 분리함으로써 ℓ0-정규화를 효과적으로 근사하는 확률적 회귀 모델이다. 1차원 합성 신호 및 실제 오디오 신호뿐만 아니라 라돈(Radon) 변환을 이용한 2차원 이미지 복원에 대한 광범위한 실험을 통해, 본 연구는 VG가 LASSO보다 월등히 우수한 성능을 보임을 입증하였다. 특히, VG는 데이터가 부족한 환경(data-scarce regimes)에서 뛰어난 노이즈 강건성(noise robustness)과 일관되게 낮은 일반화 오차를 나타냈다. 나아가 희소 뷰 CT(Sparse-view CT) 복원 실험에서 VG는 더 좁은 오차 범위를 보이며 탁월한 통계적 안정성을 입증하였으며, 이는 VG가 고도화된 신호 복원 응용 분야에서 신뢰할 수 있고 정밀한 대안이 될 수 있음을 시사한다.

목차 (Table of Contents)

• Chapter 1 Introduction 1
• Chapter 2 Theory 4
• 2.1 Compressed Sensing 4
• 2.2 Sparse Regression 6
• 2.2.1 ℓ0 Regularization 7
• 2.2.2 ℓ1 Regularization (LASSO) 7
• 2.2.3 Variational Garrote (VG) 7
• 2.3 Radon Transform 10
• Chapter 3 Experiments 12
• 3.1 Data Description 12
• 3.1.1 1D Signals 12
• 3.1.2 2D Images 13
• 3.2 Resampling of 1D Signals 14
• 3.2.1 Experimental Setup 17
• 3.3 Denoising of 1D Signals 17
• 3.3.1 Experimental Setup 20
• 3.4 Radon Transform of 2D Images 20
• 3.4.1 Experimental Setup 21
• Chapter 4 Experimental Results 24
• 4.1 Resampling of 1D Signals 24
• 4.2 Denoising of 1D Signals 27
• 4.3 Radon Transform of 2D Images 29
• Chapter 5 Conclusion 34
• Acknowledgements 42
• 국 문 초 록 43