XAI 설명방식이 사용자 신뢰도에 미치는 영향 : 인지된 이해도와 조절초점의 역할 = The Effects of XAI Explanation Methods on User Trust: The Roles of Perceived Understanding and Regulatory Focus

국문 초록 (Abstract)

인공지능(Artificial Intelligence, AI) 기술의 급속한 발전은 다양한 분야에서 혁신적인 변화를 가져왔으나, 동시에 AI 모델의 결과를 해석하기 어려운 ‘블랙박스(Black Box)’ 문제가 중요한 이슈로 대두되고 있다. 다양한 분야에서 AI 활용이 가속화됨에 따라 AI 결과에 대한 투명성과 신뢰성을 보장하기 위한 설명 요구는 지속적으로 증대되고 있다. 이러한 문제를 해결하기 위해 등장한 ‘설명 가능한 인공지능(Explainable AI, XAI)’ 연구는 주로 기술적 측면에 초점을 맞춤으로써 사용자가 실제로 이해할 수 있는 수준의 설명을 제공하지 못하는 한계를 보이고 있다. 이에 따라 앞으로의 XAI 연구는 사용자 중심의 관점으로 연구 방향이 전환될 필요가 있다.
본 연구는 사용자 개인의 동기적 성향을 나타내는 ‘조절초점(Regulatory Focus)’ 이론을 기반으로, XAI 설명방식이 사용자의 이해도와 신뢰도에 미치는 영향을 실증적으로 분석하였다. 600명의 일반 성인을 대상으로 ‘반사실적(Counterfactual)’ 설명방식과 ‘특징 중요도(Feature Importance)’ 설명방식을 비교하는 실험 연구를 수행한 결과, 반사실적 설명방식의 사용자 이해도가 유의미하게 높은 것으로 나타났다. 또한, 사용자의 조절초점 성향은 XAI 설명방식이 사용자 이해도에 미치는 영향을 조절하는 중요한 요인으로 확인되었다. 나아가, XAI 설명방식에 따른 사용자 이해도의 향상이 AI 모델에 대한 신뢰도 향상으로 이어진다는 사실을 실증적으로 입증하였다.
본 연구는 사용자의 개인 특성인 조절초점에 기반한 맞춤형 XAI 체계를 설계함으로써 사용자 이해도와 신뢰도를 효과적으로 향상시킬 수 있는 방안을 제시하였다. 이는 XAI 연구에 개인 특성을 반영한 확장된 이론적 프레임워크를 제공하며, AI 사용자에게 최적화된 XAI 설명방식을 설계하기 위한 실무적 가이드라인을 제안한다. 이러한 연구는 XAI 설계의 실효성을 높이고, AI 기술의 신뢰성과 투명성을 강화하는 데 기여할 것이다.

다국어 초록 (Multilingual Abstract)

The rapid advancement of Artificial Intelligence (AI) technology has brought transformative changes across various domains. However, it has also raised the critical issue of the "Black-Box" problem, which makes interpreting the results of AI models challenging. As the adoption of AI accelerates in diverse fields, there is an increasing demand for transparency and trustworthiness in AI-generated outcomes. To address this challenge, Explainable AI (XAI) research has emerged, aiming to provide explanations for AI models. However, current XAI research predominantly focuses on technical aspects, failing to deliver explanations that users can genuinely comprehend. Consequently, future XAI research must shift toward a user-centered perspective.
This study empirically investigates the effects of XAI explanation methods on user understanding and trust, using the Regulatory Focus Theory as a framework to account for individual motivational tendencies. An experiment involving 600 general adult participants compared two XAI explanation methods: the "Counterfactual" explanation and the "Feature Importance" explanation. The results revealed that the Counterfactual explanation significantly enhanced user understanding compared to the Feature Importance explanation. Furthermore, users' regulatory focus was identified as a critical factor moderating the relationship between XAI explanation methods and user understanding. Additionally, the study demonstrated that improvements in user understanding of XAI explanations lead to increased trust in AI models.
This research proposes a tailored XAI framework designed to align with individual user characteristics, particularly their regulatory focus, to enhance both user understanding and trust. It offers an expanded theoretical framework that incorporates personal traits into XAI research while providing practical guidelines for designing user-optimized XAI explanation methods. By improving the effectiveness of XAI design, this study contributes to enhancing the trustworthiness and transparency of AI technologies, ultimately fostering their broader social acceptance.

목차 (Table of Contents)

• 제1장. 서론 1
• 1.1. 연구의 배경 1
• 1.2. 연구의 목적 및 연구 질문 2
• 제2장. 이론적 배경 5
• 2.1. 인공지능의 발전과 주요 이슈 5
• 2.2. 설명 가능한 인공지능(XAI) 7
• 2.3. 사용자 중심의 XAI 연구 10
• 2.3.1 XAI의 사용자 효과에 관한 연구 10
• 2.3.2 XAI 설명방식 비교 연구 13
• 2.3.3 사용자 특성에 따른 XAI 효과 연구 16
• 2.4. 조절초점 이론 18
• 제3장. 이론 및 가설 21
• 3.1. 핵심 이론(Overarching Theory) 21
• 3.2. 연구 가설 23
• 3.3. 연구 모형 27
• 제4장. 연구 방법 30
• 4.1. 실험 설계 30
• 4.2. 실험 안내문 및 설문지 구성 31
• 4.3. 측정도구의 개발 32
• 4.3.1 변수의 조작적 정의 32
• 4.3.2 변수의 측정 항목 33
• 4.4. 자료의 수집 35
• 4.5. 분석 방법 37
• 4.6. PROCESS macro 분석 방법 39
• 제5장. 연구 결과 41
• 5.1. 측정 모델 평가 41
• 5.2. 변인 간의 상관관계 및 기술통계 43
• 5.3. XAI 설명방식이 인지된 이해도에 미치는 영향 45
• 5.4. 조절초점이 XAI 설명방식과 인지된 이해도 간에 미치는 조절효과 47
• 5.5. 인지된 이해도의 사용자 신뢰도에 대한 매개효과 51
• 5.5.1 PROCESS macro 방법을 통한 매개효과 분석 51
• 5.5.2 Baron & Kenny 분석 및 Sobel Test를 통한 매개효과 분석 54
• 5.6. 조절초점 차이에 따른 조절된 매개효과 57
• 제6장. 결론 60
• 6.1. 연구결과 요약 및 시사점 60
• 6.2. 연구의 한계 및 향후 연구 방향 61
• 본인의 이전 저작물 활용 고지 64
• 참고문헌 65
• Abstract 72
• 부록. 설문지 74