Explainable Hybrid Quantum-Classical Model for Brain Tumor MRI Image Classification

다국어 초록 (Multilingual Abstract)

Brain tumor classification from Magnetic Resonance Imaging (MRI) images remains a clinically challenging task due to the morphological heterogeneity of tumor subtypes as well as the black-box nature of conventional deep learning models that limit their use in clinical decision support workflows. This thesis proposes an explainable hybrid quantum-classical deep learning framework for multi-class MRI brain tumor classification that simultaneously addresses classification performance and model transparency in a unified end-to-end architecture. The proposed model integrates a pretrained DenseNet121 framework enhanced with a Convolutional Block Attention Module (CBAM) for discriminative feature filtering, followed by a multilayer perceptron feature reduction that compresses the 1,024-dimensional classical features into a 32-dimensional representation suitable for quantum encoding. These reduced features are encoded into a 5-qubit quantum state using AmplitudeEmbedding and processed by a Variational Quantum Circuit (VQC) consisting of 4 StronglyEntanglingLayers with 60 trainable quantum parameters implemented using PennyLane. A two-phase freeze and unfreeze training strategy with CosineAnnealingLR scheduling and a cross-entropy loss function with label smoothing are used to stabilize the quantum-classical optimization process during fine-tuning.

To meet the interpretability requirements of the hybrid architecture, a three-level explainability framework is introduced. Score-CAM is applied to the DenseNet121 framework to produce gradient-free spatial saliency maps that identify tumor discriminative regions in MRI scans. SHapley Additive exPlanations (SHAP) is applied to the 32-dimensional compressed feature vectors at the classical-quantum interface to provide feature-level attribution that measures the contribution of each compressed feature dimension to the classification results in a model-independent manner. Complementarily, parameter-shift rule-based Quantum Parameter Sensitivity Analysis (QPSA) is used to measure the contribution of each quantum gate parameter to the final classification output. The proposed framework is evaluated using a publicly available brain tumor MRI dataset containing 7,023 images across four classes which are glioma, meningioma, pituitary tumor and no tumor and compared with three classical baseline architectures under the same experimental conditions. Experimental results show that the hybrid model achieves a test accuracy of 93.94\% and an F1-score of 93.85\%, outperforming the best classical baseline model, DenseNet121, by 2.44 percentage points.

Score-CAM visualization shows that the model consistently pays attention to anatomically and pathologically meaningful regions across all tumor classes while SHAP attribution maps reveal feature-level decision drivers at the classical-quantum interface consistent with the spatial patterns identified by Score-CAM and QPSA heat maps reveal class-specific quantum parameter sensitivity patterns indicating that variational quantum circuits encode discriminative information in a structured and interpretable form. Overall, the findings of this study demonstrate that the proposed hybrid architecture successfully achieves a principled balance between predictive performance and multi-level explainability, thus highlighting its potential as a transparent and effective framework for AI-assisted brain tumor diagnosis.

국문 초록 (Abstract)

뇌종양의 자기공명영상 기반 분류는 종양 아형의 형태학적 이질성과 기존 딥러닝 모델의 블랙박스 특성으로 인해 여전히 임상적으로 어려운 과제로 남아 있으며, 이는 임상 의사결정 지원 체계에서의 활용을 제한하는 주요 요인으로 작용한다. 본 논문에서는 분류 성능과 모델의 투명성을 동시에 고려한 설명 가능한 하이브리드 양자-고전 딥러닝 프레임워크를 제안하여 다중 클래스 뇌종양 자기공명영상 분류를 수행한다. 제안된 모델은 특징 판별력을 향상시키기 위해 합성곱 블록 주의 모듈이 결합된 사전학습 DenseNet121 백본을 기반으로 하며, 이후 1,024차원의 고전적 특징을 양자 인코딩에 적합한 32차원 표현으로 압축하는 특징 축소 다층 퍼셉트론을 적용한다. 축소된 특징은 진폭 임베딩을 통해 5-큐비트 양자 상태로 인코딩되며, PennyLane을 이용해 구현된 4개의 강한 얽힘 계층과 60개의 학습 가능한 양자 파라미터로 구성된 변분 양자 회로에 의해 처리된다. 또한 미세조정 과정에서 양자-고전 최적화의 안정성을 확보하기 위해 코사인 어닐링 학습률 스케줄링과 레이블 스무딩이 적용된 교차 엔트로피 손실 함수를 포함하는 2단계 동결 및 해제 학습 전략을 사용하였다.

하이브리드 구조의 해석 가능성을 확보하기 위해 3단계 설명 가능성 프레임워크를 도입하였다. DenseNet121 백본에는 Score-CAM을 적용하여 자기공명영상에서 종양 판별에 중요한 영역을 강조하는 비기울기 기반 공간 중요도 지도를 생성하였다. 또한 SHAP은 고전-양자 인터페이스의 32차원 압축 특징 벡터에 적용되어 각 압축 특징 차원이 분류 결과에 기여하는 정도를 모델 독립적인 방식으로 정량화하는 특징 수준의 기여도 분석을 제공하였다. 더불어 파라미터 이동 규칙 기반 양자 파라미터 민감도 분석은 각 양자 게이트 파라미터가 최종 분류 결과에 미치는 영향을 정량적으로 분석하였다. 제안된 프레임워크는 교종, 수막종, 뇌하수체 종양, 정상의 4개 클래스로 구성된 총 7,023장의 공개 뇌종양 자기공명영상 데이터셋을 사용하여 평가되었으며, 동일한 실험 조건에서 세 가지 고전적 기준 모델과 비교되었다. 실험 결과, 제안된 하이브리드 모델은 93.94\%의 테스트 정확도와 93.85\%의 F1 점수를 달성하였으며, 가장 우수한 고전적 기준 모델인 DenseNet121보다 2.44\%포인트 높은 성능을 보였다.

Score-CAM 시각화 결과는 모델이 모든 종양 클래스에서 해부학적 및 병리학적으로 의미 있는 영역에 일관되게 주목함을 보여주었으며, SHAP 특징 기여도 지도는 고전-양자 인터페이스에서의 특징 수준 결정 요인이 Score-CAM에서 식별된 공간적 패턴과 일치함을 나타냈다. 또한 양자 파라미터 민감도 분석 열지도는 클래스별로 서로 다른 양자 파라미터 민감도 패턴을 보여주어 변분 양자 회로가 판별적 정보를 구조적이고 해석 가능한 방식으로 인코딩하고 있음을 확인하였다. 종합적으로, 본 연구 결과는 제안된 하이브리드 구조가 예측 성능과 다층적 설명 가능성 사이에서 균형을 효과적으로 달성함을 보여주며, 인공지능 기반 뇌종양 진단을 위한 투명하고 효과적인 프레임워크로서의 가능성을 제시한다.

목차 (Table of Contents)

• [List of Figures] i
• [List of Tables] i
• [Abbreviations] ii
• Chapter 1: Introduction . 1
• 1.1 Research Background . 1
• 1.2 Research Contributions 5
• 1.3 Scope and Objective . 7
• 1.4 Structure of the Thesis . 8
• Chapter 2: Literature Review . 10
• 2.1 Brain Tumor Classification and MRI-Based Diagnosis . 10
• 2.2 Classical Convolutional Neural Networks and Transfer Learning 12
• 2.2.1 DenseNet121 13
• 2.2.2 ResNet50 . 14
• 2.2.3 EfficientNetB0 . 14
• 2.2.4 Convolutional Block Attention Module (CBAM) 15
• 2.3 Hybrid Quantum Machine Learning 16
• 2.4 Explainable Artificial Intelligence for Medical Imaging 18
• 2.4.1 Grad-CAM . 19
• 2.4.2 Score-CAM 20
• 2.4.3 SHAP (SHapley Additive exPlanations) . 21
• 2.4.4 Explainable Quantum Machine Learning and
• Quantum Parameter Sensitivity 23
• 2.5 Summary 25
• Chapter 3: Proposed System . 26
• 3.1 System Overview 27
• 3.2 Dataset Description 28
• 3.3 Data Pre-Processing and Augmentation . 29
• 3.4 Classical Feature Extraction . 29
• 3.4.1 DenseNet121 Backbone 29
• 3.4.2 Convolutional Block Attention Module (CBAM) . 30
• 3.4.3 Feature Reduction MLP . 32
• 3.5 Quantum Processing Layer . 32
• 3.5.1 Quantum State Encoding - AmplitudeEmbedding . 32
• 3.5.2 Variational Quantum Circuit (VQC) . 33
• 3.6 Classical Classifier Head 35
• 3.7 Training Strategy 35
• 3.7.1 Two-Phase Training 35
• 3.7.2 Loss Function and Optimisation 36
• 3.8 Explainability Methods . 37
• 3.8.1 Score-CAM . 37
• 3.8.2 SHAP (SHapley Additive exPlanations) . 38
• 3.8.3 Quantum Parameter Sensitivity Analysis (QPSA) . 40
• 3.9 Evaluation Metrics . 42
• 3.10 Summary . 43
• Chapter 4: Evaluation & Performance Analysis . 44
• 4.1 Experimental Setup . 45
• 4.1.1 Simulation Environment . 45
• 4.1.2 Implementation Details . 45
• 4.2 Evaluation Metrics . 46
• 4.3 Training Performance . 46
• 4.3.1 Training and Validation Curves . 46
• 4.4 Classification Results . 49
• 4.4.1 Quantitative Performance of the Test Set . 49
• 4.4.2 Confusion Matrix . 51
• 4.4.3 ROC Curves . 53
• 4.4.4 Comparative Analysis with Classical Baseline Models 55
• 4.4.5 Ablation Study . 59
• 4.5 Explainability Analysis 61
• 4.5.1 Score-CAM Spatial Explainability . 61
• 4.5.2 SHAP Feature Attribution Analysis 63
• 4.5.3 Quantum Parameter Sensitivity Analysis (QPSA) 66
• 4.6 Misclassification and Confidence Analysis 70
• 4.6.1 Misclassification Analysis . 70
• 4.7 Summary 72
• Chapter 5: Conclusion, Future Works, and Open Issues . 74
• 5.1 Conclusion . 74
• 5.2 Future Works . 76
• 5.3 Open Issues 77
• References . 79