Companding 기반 비선형 양자화와 최적 양자화 경로 탐색 = Non-linear Quantization via Companding and Optimal Path Search

국문 초록 (Abstract)

양자화는 딥러닝 모델의 연산 비용을 절감하는 핵심 기법으로, 특히 리소스가 제한된 엣지 컴퓨팅 환경에서 그 중요성이 강조된다. 통상적인 선형 양자화는 효 율성 측면에서 이점을 갖지만, 가중치 분포의 불균형으로 인한 반올림 오차와 이 에 따른 정확도 손실이 불가피하다. 본 연구에서는 사전 학습된 모델을 재학습 없이 효과적으로 재사용하기 위해, 신호 처리에서의 companding 기법을 도입한 -law 기반의 사후 비선형 양자화를 적용하였다. 실험 결과, CIFAR-10, CIFAR-100, SVHN 데이터셋과 VGG16, VGG19 모델 전반에 걸쳐 비선형 양자 화가 선형 방식 대비 일관되게 우수한 정확도를 보임을 확인하였다. 또한, 모델 의 층별 양자화 적용 여부에 따른 최적의 효율성을 찾기 위해 전수 탐색을 수행 하였으나, 도출된 최적 조합의 경로는 해밍 거리가 1을 초과하는 경우가 빈번하 여 단계적 적용에 한계가 있었다. 이를 해결하기 위해 해밍 거리를 1로 제약한 그리디 알고리즘을 도입하여, 최적 경로에 근접하면서도 탐색 비용을 절감하는 경로 탐색 방식을 제안하였다. 결론적으로 본 연구는 비선형 양자화와 그리디 기 반 경로 탐색을 결합하여, 사전 학습된 CNN 모델의 재사용성을 높이는 동시에 효율성과 정확도 사이의 실용적인 균형점을 제시하고자 한다.

다국어 초록 (Multilingual Abstract)

Quantization is essential for efficient edge computing, yet conventional linear methods often suffer from accuracy degradation due to imbalanced weight distributions. To enable effective model reuse without retraining, we propose a post-training non-linear quantization method using -law companding, which
consistently outperforms linear quantization in experiments on VGG16 and VGG19 across CIFAR and SVHN datasets. Furthermore, to overcome the impracticality of
exhaustive layer-wise configuration searches, we introduce a greedy path-search algorithm constrained to Hamming distance one. This approach significantly reduces search costs while achieving performance close to the global optimum. Overall, this work provides a practical framework that combines non-linear companding with efficient greedy optimization to enhance the reusability and accuracy of pretrained CNNs.

목차 (Table of Contents)

• 그림 목차 ⅱ
• 표 목차 ⅳ
• 국문 초록 ⅴ
• 1. 서론 1
• 가. 연구 배경 1
• 나. 연구 목적 2
• 2. 연구 방법 3
• 가. 베이스라인 모델 학습 3
• 나. 양자화 프레임워크 3
• 다. 비선형 함수 선정 및 최적화 전략 5
• 라. 비교 실험 구성 7
• 마. 단계적 그리디와 쌍 고려 그리디 방법 7
• 3. 연구 결과 10
• 가. Companding 기반 단일 층 양자화 실험 10
• 나. 연산량 분석 및 효율 평가 19
• 다. 양자화 층 선택 전략 21
• 4. 결론 및 향후계획 33
• 가. 결론 33
• 나. 향후계획 34
• 5. 부록 36
• 참고문헌 39
• Abstract(영문초록) 42