Interpretable Uncertainty: Feature Contributions Underlying Conformal Predictions = Conformal Prediction 불확실성에 대한 구조적 해석과 특성 기여도 분석

다국어 초록 (Multilingual Abstract)

Conformal prediction provides statistically valid uncertainty quantification with finite-sample, distribution-free coverage guarantees and is increasingly used to support uncertainty-aware decision making. However, the size of a conformal predictive interval-particularly under conformalized quantile regression (CQR)-is not purely instance-dependent, but arises from the interaction between a test covariate and a calibration dataset, combining instance-level and dataset-level sources of uncertainty. This structural dependence complicates the direct application of standard instance-level explanation methods. To address this issue, we propose a global-local decomposition of conformal predictive interval width into a calibration-driven global component and an instance-driven local component. Building on this decomposition, we develop a Shapley-based uncertainty attribution framework that assigns feature-level contributions to each component while preserving exact additivity and conservation of total uncertainty. The resulting attributions admit a clear interpretation: global attributions capture distribution-level uncertainty, while local attributions explain instance-specific deviations from this baseline. Empirical results on synthetic data and a real-world case study demonstrate that the proposed decomposition is numerically exact and reveals heterogeneous uncertainty mechanisms that are obscured when considering only total attribution.

국문 초록 (Abstract)

본 논문은 conformal prediction이 산출하는 예측 불확실성을 해석 가능하게 분석하는 방법을 제시한다. Conformal prediction은 분포 가정 없이 통계적으로 타당한 불확실성 정량화를 제공하지만, conformalized quantile regression(CQR)에서 생성되는 예측 구간의 폭은 개별 입력 인스턴스뿐 아니라 보정(calibration) 데이터셋에 의해 함께 결정된다. 이와 같은 구조적 특성은 기존의 인스턴스 수준 설명 기법을 직접 적용하는 데 본질적인 제약을 초래한다. 본 연구는 이러한 한계를 극복하기 위해 CQR 예측 구간의 폭을 보정 데이터셋에 기인하는 글로벌 불확실성과 테스트 인스턴스에 의해 유도되는 로컬 불확실성으로 분해하는 글로벌–로컬 분해 프레임워크를 제안한다. 또한 전체 불확실성을 보존하는 조건 하에서 각 구성 요소에 대한 특성 수준 기여도를 산출하는 Shapley 기반 불확실성 기여도 방법을 정식화한다. 또한 합성 데이터와 실제 자전거 대여 데이터셋을 이용한 실험을 통해, 제안한 분해가 수치적으로 정확하며 전체 기여도만으로는 포착하기 어려운 불확실성 구조를 효과적으로 규명함을 확인하였다.

목차 (Table of Contents)

• 1 Introduction 1
• 1.1 Related Work 3
• 1.1.1 Explaining Predictive Uncertainty 3
• 1.1.2 Uncertainty Attribution for Conformal Prediction 3
• 1.1.3 Shapley-Based Feature Attribution 4
• 2 Preliminaries 6
• 2.1 Conformal Prediction 6
• 2.2 Shapley-Based Feature Attribution Methods 10
• 3 Method 13
• 3.1 Uncertainty Attribution for Conformal Predictive Interval 13
• 3.1.1 Analysis 15
• 3.1.2 Procedure for Global-Local Decomposition for CQR Predictive Interval 17
• 3.1.3 Meaning of the Decomposed Attribution 21
• 4 Experiments 25
• 4.1 Experimental Setup 25
• 4.2 Synthetic Data 26
• 4.2.1 Linear Model with Homoscedastic Noise 27
• 4.2.2 Nonlinear and Heteroscedastic Settings 27
• 4.3 Real-World Case Study: Bike Rental Dataset 28
• 4.3.1 Global Uncertainty Structure 29
• 4.3.2 Instance-Level Decomposition 29
• 4.4 Summary 29
• 5 Conclusion 32
• Abstract (In Korean) 37