인공지능 재판시스템 도입에 따른 공법적 과제 = Public Law Challenges Arising from the Introduction of AI-Based Judicial Systems

다국어 초록 (Multilingual Abstract)

The rapid advancement of artificial intelligence (AI) technologies has begun to reshape judicial systems worldwide, raising critical questions about their constitutional legitimacy and the protection of fundamental rights. This dissertation examines the potential infringements on constitutional rights arising from the introduction of AI-based judicial systems and explores the corresponding public-law challenges, with particular emphasis on administrative law perspectives. While AI may offer benefits such as efficiency, consistency, and accessibility, its integration into core judicial functions risks undermining the principles of due process, judicial independence, and transparency.

The study begins by defining the concept and scope of AI judicial systems, distinguishing them from conventional digitalization or e-government tools. It then identifies how the deployment of such systems may affect essential rights, including the right to a fair trial, the right to a speedy and public hearing, the right to privacy and data protection, equality before the law, freedom of expression, and property rights. Particular attention is given to the structural tension between algorithmic opacity (“black box” decision-making) and the constitutional obligation of courts to provide reasoned judgments.

A comparative analysis of international developments provides valuable insights. The European Union’s AI Act classifies judicial AI applications as “high-risk” systems, subjecting them to stringent transparency and accountability requirements. The United States has grappled with predictive risk assessment algorithms such as COMPAS, revealing issues of racial and gender bias. China has advanced “smart courts” and online litigation platforms, demonstrating both the potential and dangers of large-scale AI adoption in judicial proceedings. These cases inform the analysis of Korea’s nascent discussions on AI in judicial processes.

From an administrative law perspective, the dissertation identifies key challenges: ensuring procedural legitimacy, maintaining state accountability for AI errors, securing algorithmic transparency through information disclosure, and establishing effective remedies for rights violations. Existing mechanisms—such as administrative litigation, appeals, state liability claims, and constitutional complaints—are shown to be inadequate when applied to AI-driven decisions due to difficulties in attributing responsibility and proving causation. Accordingly, the research argues for the introduction of special legal frameworks, including explicit legislative provisions on AI-assisted adjudication, independent supervisory bodies for algorithmic auditing, and a liability regime that shifts or alleviates the burden of proof for victims.

Ultimately, this dissertation contends that the adoption of AI in judicial systems must not be guided solely by efficiency considerations. Rather, it requires a constitutional and public-law framework that safeguards fundamental rights while enabling technological innovation. By synthesizing comparative legal experiences and grounding them in the Korean context, the study proposes a roadmap for establishing an “AI Judicial Basic Law” to enshrine principles of subsidiarity, transparency, accountability, and democratic oversight. Only through such institutional design can AI judicial systems operate in harmony with constitutional values and preserve public trust in the rule of law.

목차 (Table of Contents)

• 제1장 서론 1
• 제1절 연구의 배경 1
• 제2절 연구의 목적 3
• 제3절 연구의 범위와 방법 5
• 제2장 인공지능 재판시스템의 개념적 기반 9
• 제1절 알고리즘 및 인공지능의 개념과 구조 10
• Ⅰ. 알고리즘의 개념과 특성 10
• 1. 알고리즘의 개념 10
• 2. 알고리즘의 특성 11
• (1) 권력성 11
• (2) 상업성 12
• (3) 불투명성 12
• Ⅱ. 인공지능의 개념 13
• Ⅲ. 인공지능의 유형 16
• 1. 약한 인공지능 16
• 2. 강한 인공지능 17
• 3. 초 인공지능 18
• Ⅳ. 인공지능의 활용 영역 19
• 1. 일반적 활용 현황 19
• 2. 사법 영역에서의 활용 22
• 제2절 인공지능 재판시스템의 도입과 활용 25
• Ⅰ. 도입 배경 25
• Ⅱ. 개념 28
• Ⅲ. 유형 30
• 1. 재판 예측 시스템 30
• (1) 설명 단계 32
• (2) 분석 단계 37
• (3) 예측 및 결정 단계 39
• (4) 활용 단계 42
• 2. 온라인 분쟁해결 44
• 3. AI 로 클럭(Law clerk) 47
• (1) 도입 논의 48
• (2) 유형 50
• (3) 기술적 구현과 규범적 한계 54
• 제3절 소결 55
• 제3장 인공지능 재판시스템의 비교법적 고찰 58
• 제1절 인공지능 재판시스템 운영에 관한 법제 동향 58
• Ⅰ. 유럽연합(EU) 58
• 1. 유럽 사법 윤리헌장의 윤리원칙 58
• (1) 채택 배경 58
• (2) 5대 원칙 60
• 2. 인공지능법(AI Act) 65
• Ⅱ. 영국 68
• 1. 법관의 책임과 인공지능의 한계 인식 68
• 2. 기밀성 및 프라이버시 보호 원칙 69
• 3. 정확성 보장 및 검증 의무 70
• 4. 편향(Bias) 방지와 주의 의무 70
• 5. 법관의 최종 책임 원칙 71
• Ⅲ. 캐나다 71
• 1. 인공지능 활용에 대한 법원의 책임 원칙 72
• 2. 기본권 존중 및 사법권 독립 원칙 73
• 3. 비차별의 원칙 73
• 4. 투명성과 외부 감시 원칙 73
• 5. 인간 감독(Human Oversight) 원칙 74
• 제2절 민사재판 영역에서의 인공지능 재판시스템 적용 사례 75
• Ⅰ. 독일 75
• 1. 전달송달 및 전자소송 절차의 제도화 76
• 2. 법정심리 절차에서의 원격재판 및 인공지능 보조 활용 77
• 3. 집행절차에서의 스마트 정보관리 및 인공지능 활용 기반 구축 78
• Ⅱ. 미국 79
• Ⅲ. 중국 81
• 1. 스마트법원 시스템의 구축과 민사소송 적용 82
• (1) 전자증거 제도의 도입과 활용 83
• (2) 전자송달 제도의 운영 84
• 2. 스마트법원의 개념과 기능적 활용 85
• 3. 인터넷 법원의 설립과 운영 현황 88
• Ⅳ. 오스트레일리아 90
• 제3절 재범위험 예측에 관한 인공지능 재판시스템 활용 사례 92
• Ⅰ. 미국 92
• 1. COMPAS 알고리즘의 구조적 한계 93
• (1) 인종 차별적 편향 문제 93
• (2) 성별에 따른 차별 가능성 95
• 2. COMPAS 알고리즘의 법적 쟁점 96
• (1) 사건의 개요 96
• (2) 미국 위스콘신주 대법원 판결의 의의 98
• Ⅱ. 영국의 OASys 재범위험 예측 시스템 100
• 제4절 소결 102
• 제4장 기본권 보장을 위한 인공지능 재판시스템의 도입 방향 105
• 제1절 법치주의와 사법권 독립 105
• 제2절 재판청구권의 헌법적 의의 108
• Ⅰ. 재판청구권의 법적 성격 108
• 1. 개념 108
• 2. 절차적 기본권으로서의 성격 110
• 3. 주관적 공권으로서의 성격 112
• Ⅱ. 재판청구권의 범위 114
• Ⅲ. 재판청구권의 보호영역 115
• 1. 법관 115
• 2. 법률 117
• 3. 공정한 재판 117
• 4. 공개재판 119
• 5. 신속한 재판 120
• 제3절 인공지능 재판시스템과 기타 기본권 보장 123
• Ⅰ. 개인정보자기결정권 123
• Ⅱ. 평등권의 침해 125
• Ⅲ. 표현의 자유 제한 127
• Ⅳ. 신체의 자유 제한 128
• Ⅴ. 재산권, 인간 존엄성과의 충돌 129
• 제4절 인공지능 재판시스템 도입에 따른 공법적 과제 130
• Ⅰ. 헌법상 적법절차 원리와 재판절차 131
• Ⅱ. 인공지능 재판시스템의 절차적 정당성 확보 135
• 1. 재판절차 진술권 136
• (1) 청문권 보장 136
• (2) 변론권 보장 138
• (3) 청문권과 변론권의 상호관계 및 실효적 보장 139
• 2. 판결이유제시 141
• 3. 절차의 참여 보장 144
• Ⅲ. 투명성과 설명가능성 확보 147
• 1. 쟁점 147
• 2. 필요성 148
• 3. 알고리즘 투명성 공개의 실질적 요건 152
• 4. 설명가능 인공지능의 최소기준 155
• Ⅳ. 오류와 권리구제 157
• 1. 쟁점 158
• 2. 사법절차 내 통제체제의 구축 159
• (1) 사전적 통제 160
• (2) 사후적 구제 160
• 3. 국가배상과 사법적 책임의 새로운 해석 162
• (1) 쟁점 162
• (2) 국가배상책임 체계 164
• (3) 감독책임과 사법행정의 통제의무 167
• 4. 국가배상책임 제도의 개선 방향 170
• 제5절 인공지능 재판시스템 구축을 위한 법제 개선방향 172
• Ⅰ. 차세대 전자소송 시스템 173
• Ⅱ. 법제 정비를 위한 인공지능 윤리기준 175
• Ⅲ. 인공지능 재판시스템 도입을 위한 현행 법제의 한계와 규범적 공백 177
• Ⅳ. 입법방향 180
• 1. 보충성 원칙 184
• 2. 절차의 투명성과 설명의무 186
• 3. 국가책임 원칙의 강화 187
• 4. 독립적 감독기구 설치 189
• 5. 단계적 도입과 평가의 의무화 193
• 제6절 소결 195
• 제5장 결론 198
• 참고문헌 205
• Abstract 211