인공지능 기반 서비스 사고의 인과 경로 규명 : 텍스트 마이닝 및 네트워크 분석 기반 접근 = Uncovering Causal Pathways in AI Service Incidents : Text Mining and Network Analysis Approach

국문 초록 (Abstract)

인공지능 기반 서비스 (Artificial Intelligence-based Services; AIS)는 사용자가 서비스 환경에서 인공지능 기술과 상호작용하여 가치나 기능을 제공받는 것으로, 의료 진단, 금융 거래, 자율주행 등 다양한 분야에 적용되고 있다. 그러나 AIS 의 확산과 함께 편향 출력, 시스템 오작동, 보안 침해 등 예상치 못한 사고가 빈번히 발생하고 있다. 기존 연구는 사고 요인의 분류와 열거에 비중을 두어, 실제 사고에서 원인이 어떤 전이 과정을 거쳐 피해로 연결되는지에 대한 경로 수준의 인과 구조를 충분히 제시하지 못했다. 이로 인해 조직은 사고 발생 과정을 예측하거나 효과적인 예방 전략을 수립하기 어렵다. 본 연구는 AIS 사고의 인과 경로를 정량적으로 규명한다. 사고 유형은 기능(Function), 정보(Information), 상호작용(Interaction), 보안(Security) 사고의 네 가지로 구분하였으며, 사고 경로를 결함(Fault) → 실패(Failure) → 피해(Harm)의 3 단계로 정의하였다. 총 13,759 건의 사고 기사를 대상으로 문서 분류를 수행한 후,, 다단계 질의응답 모델(Question Answering)을 활용해 각 사고의 핵심 사건, 원인, 결과를 순차적으로 추출하였다. 추출된 요소를 통합하여 방향 네트워크를 구축하고, 엔트로피 분석과 커뮤니티 탐지 기법을 적용해 주요 경로와 개입 지점을 도출하였다. 분석 결과, 기능 사고 유형에서 Supervisory Lapse 가 Death 로 이어지는 경로들이 반복적으로 관측되었다. 각 단계의 사고 요소는 전이 구조의 엔트로피 특성이 상이하게 나타났으며, 일부 결함과 실패는 특정 경로로 집중되는 반면, 다른 요소들은 다양한 경로로 분기되는 양상을 보였다. 이는 AIS 사고 전개 과정에서 개입 효과가 경로와 전이 구조에 따라 달라짐을 의미한다. 커뮤니티 분석 결과, 경로 구조가 단순하고 반복 빈도가 높은 사고 군집과, 경로가 분산되고 변형이 많은 군집이 구분되었으며, 전자는 자율주행 및 항공 분야 사고에서 주로 관측되었다. 이를 바탕으로 결함 예방, 실패 차단, 피해 완화로 구성된 3 단계 개입 전략을 제시하였다. 본 연구는 AIS 사고의 인과 구조를 정량적으로 밝히고, 고위험 경로와 핵심 원인을 식별하였다. 이러한 결과는 조직이 사고 전파 과정을 이해하고, 단계별 개입 우선순위를 설정하여 효과적인 안전 관리 체계를 구축하는 데 기여한다.

다국어 초록 (Multilingual Abstract)

Artificial intelligence-based services (AIS) use autonomous learning and
adaptive capabilities to predict user behavior and deliver personalized experiences.
The increasing use of AIS coincides with heightened awareness of unintended
social, ethical, and operational risks. These risks often materialize as service
failures, such as biased outputs, or security breaches. Prior research has focused on
categorizing failure types, providing limited understanding of the causal structures
underlying the emergence and propagation of such failures. Without this causal
insight, organizations are unable to trace causes, resulting in repeated failures or
inefficient resource allocation.
This study presents a framework to identify causal elements and their
interrelations underlying AIS failures. Based on the Bow-tie analysis, a three-step
structure cause – failure - effect was adopted to guide the extraction process.
Failure types were defined from prior literature into four categories: function,
security, information, and interaction. Over 15,000 news articles were embedded
using Sentence-BERT and classified accordingly. For each failure type, a multi
turn Question Answering model was applied to sequentially extract failures, causes,
and effects using tailored queries designed in accordance. The extracted elements were assembled into a causal network, where analysis identified high-centrality
nodes, major propagation paths, and clustered failure patterns.
The analysis revealed that lack of supervision emerged as the most frequent
starting point in pathways leading to fatal accidents. Each stage exhibited distinct
levels of uncertainty, suggesting the need for differentiated intervention strategies
at each phase. Community analysis identified that high-frequency incidents with
clear propagation paths were concentrated in autonomous driving and aviation
domains. Based on these findings, a three-stage intervention strategy was proposed:
fault prevention, failure blocking, and harm mitigation.
This study quantitatively elucidates the causal structures underlying AIS
incidents and identifies high-risk pathways and key triggers. These findings enable
organizations to understand incident propagation processes, establish stage-specific
intervention priorities, and develop effective safety management systems.

목차 (Table of Contents)

• 국문초록 i
• 목 차 iii
• 표 목 차 iv
• 그림목차 v
• 제 1 장 서론 1
• 1.1. 연구 배경 1
• 1.2. 연구 목적 및 내용 4
• 제 2 장 문헌 조사 6
• 2.1. 정성적 접근: 분류 및 식별 프레임워크 6
• 2.2. 정량적 접근: 위험 측정 및 평가 8
• 2.3. 선행 연구의 한계 10
• 제 3 장 방법론 11
• 3.1. 사고 정의 12
• 3.1.1. 사고 경로 정의 12
• 3.1.2. 사고 유형 정의 15
• 3.2. 사고 문서 수집 및 분류 19
• 3.2.1. 데이터 수집 및 전처리 19
• 3.2.2. 사고 문서 분류 21
• 3.3. 사고 경로 네트워크 구축 24
• 3.3.1. 사고 경로 요소 추출 24
• 3.3.2. 클러스터링 기반 노드 생성 29
• 3.3.3. 방향성 네트워크 구축 32
• 3.4. 네트워크 분석 33
• 3.4.1. 주요 노드 및 경로 분석 33
• 3.4.2. 커뮤니티 탐지 36
• 제 4 장 결과 38
• 4.1. 사고 분류 결과 38
• 4.2. 네트워크 구축 결과 40
• 4.3. 네트워크 분석 결과 44
• 제 5 장 토의 52
• 제 6 장 결론 59
• 참고문헌 63
• Abstract 70
• 감사의 글 72