인식적으로 불투명한 기계학습 모형에 대한 신빙성 부여 조건 = Conditions for Reliability of Epistemically Opaque Machine Learning Models

다국어 초록 (Multilingual Abstract)

Recent advances in artificial intelligence technologies, including machine learning (ML), have brought the issue of epistemic opacity to the forefront of the philosophy of AI. In scientific contexts, the problem of opacity is significant because it raises the question of how we can trust the results produced by methods that are not epistemically transparent. One response to this issue is computational reliabilism, a theory advanced by Juan M. Durán and Nico Formanek. Building on Paul Humphreys' definition of opacity and Alvin Goldman's process reliabilism, they set out the conditions under which machine learning models can be reliable. According to Durán and Formanek, epistemically opaque processes can be reliable if they exhibit sufficient predictive accuracy and fulfill what they describe as sources of reliability, including alignment with expert knowledge, empirical validation and verification, and robustness.
This paper critically examines computational reliabilism as a framework for conferring epistemic reliability on opaque machine learning models and proposes an alternative approach. I argue that the approach of Durán and Formanek faces practical challenges and underestimates the role of explanation in epistemic justification. As an alternative, I contend that machine learning models can achieve epistemic reliability if they are accompanied by surrogate models that provide how-possibly explanations for the original model’s outputs. Such surrogate models should not only consistently reproduce the predictions of the original machine learning model with a high degree of accuracy, but also be transparent and epistemically reliable in their own right. Even though the internal mechanisms of the original machine learning model are opaque, the reliability of the surrogate model can still serve as a basis for conferring epistemic reliability on the original model.
On this basis, I reexamine central case studies in the philosophy of AI to demonstrate the explanatory value of my framework. In particular, I demonstrate how my surrogate model-based conditions for epistemic reliability can clarify the epistemic differences between the melanoma detection model and the sexual orientation prediction model discussed by Emily Sullivan, as well as the case of nuclear magnetic resonance spectroscopy analyzed by Sandra Mitchell.

국문 초록 (Abstract)

최근 기계학습(Machine Learning, ML) 등 인공지능 기술의 발달로 인식적 불투명성(epistemic opacity)이 중요한 논의 주제가 되고 있다. 과학에서 불투명성에 관한 논의가 중요한 이유는, 인식적으로 불투명한 방법을 통해 얻은 결과를 어떻게 신뢰할 수 있는지가 쟁점이 되기 때문이다. 대표적인 논의가 후안 듀란(Juan M. Durán)과 니코 포마넥(Nico Formanek)의 계산 신빙주의이다. 이들은 폴 험프리스(Paul Humphreys)의 불투명성 정의와 앨빈 골드만(Alvin Goldman)의 과정 신빙주의 논의에서 출발하여 기계학습 모형이 인식정당성을 갖추기 위한 조건을 제시했다. 듀란과 포마넥의 계산 신빙주의는 인식적으로 불투명한 과정이더라도 예측 정확도가 충분히 높고 전문가 지식과의 일치, 검증 및 검정, 강건성 등 다른 조건들을 충족한다면 신빙성을 확보할 수 있다고 말한다.
본 논문에서 나는 불투명한 기계학습 모형의 신빙성 부여를 위한 듀란과 포마넥의 계산 신빙주의를 비판적으로 검토하고 대안을 제시한다. 특히 계산 신빙주의가 신빙성을 부여하는 과정에 실천적 어려움이 있으며, 인식 정당성 논의에서 설명의 역할을 과소평가함을 지적한다. 이에 대한 대안으로 나는 기계학습 모형이 신빙성을 얻기 위해서는 대리 모형을 통해 가능한 설명을 제시할 수 있어야 한다고 주장한다. 이때 대리 모형은 충분히 높은 정확도로 기계학습 모형과 같은 예측을 지속적으로 내놓으면서, 그 자체로 투명성과 신빙성을 갖춘 모형을 의미한다. 불투명성이 존재하여 실제 기계학습 모형이 어떤 알고리즘을 통해 결과를 도출했는지 알 수 없더라도, 대리 모형의 신빙성을 기반으로 기계 학습 모형에도 신빙성을 부여할 수 있다.
나는 이러한 관점으로 기존 인공지능 철학 영역에서 논의되었던 주요 사례들을 다시 검토한다. 특히 에밀리 설리번(Emily Sullivan)이 표준적인 사례로 비교하는 ‘흑색종 탐지 모형’과 ‘성적 지향 예측 모형’ 사이에 나타나는 신빙성의 차이와 샌드라 미첼(Sandra Mitchell)이 분석한 핵자기공명분석법(NMR)의 신빙성 부여 사례를 나의 대리 모형 조건을 통해 설명할 수 있음을 보인다.

목차 (Table of Contents)

• 제 1 절 서론 1
• 제 2 절 불투명성의 정의와 계산 신빙주의 4
• 2. 1. 기계학습 모형이 갖는 여러 수준의 불투명성 4
• 2. 2. 듀란과 포마넥의 불투명성 정의: 험프리스로부터 7
• 2. 3. 듀란과 포마넥의 계산 신빙주의: 골드만으로부터 10
• 제 3 절 계산 신빙주의의 한계 17
• 3. 1. 불투명성 정의에 대한 바이스바르트의 비판 17
• 3. 2. 신빙성 부여 기준으로서 계산 신빙주의의 한계 26
• 제 4 절 대리 모형을 통한 신빙성 부여 조건 31
• 4. 1. 신빙성 부여를 위한 세 가지 조건 31
• 4. 2. 가능한 반론과 대응 43
• 제 5 절 과학에서 기계학습과 대리 모형 사례 47
• 5. 1. 설리번의 비교 다시보기: 흑색종 탐지 모형과 성적 지향 탐지 모형 47
• 5. 2. 관찰기기의 정당화와 대리모형 조건 53
• 제 6 절 결론 56
• 참고문헌 58