예측치안（Predictive Policing）의 기본권 침해와 법제적 통제 : 경찰의 Pre-CAS를 중심으로 = A Study on the Constitutional Control of AI-based Predictive Policing Systems

다국어 초록 (Multilingual Abstract)

With the rapid advancement of Fourth Industrial Revolution technologies, so-called ＂predictive policing＂ systems—designed to prevent crime in advance on the basis of artificial intelligence （AI） and big data—are being introduced into the criminal justice field in earnest. The paradigm shift from reactive criminal investigation to proactive and preventive policing carries the utilitarian advantage of allocating limited policing resources efficiently. At the same time, however, by designating particular individuals or groups in advance as potential offenders, it entails the risk of fundamentally undermining the presumption of innocence and due process of law, the cardinal principles of criminal justice.
In particular, when artificial intelligence uncritically learns from biased historical data, it reproduces existing social and structural discrimination and gives rise to serious infringements of fundamental rights, subjecting minority groups to excessive surveillance. Furthermore, the ＂black box＂ phenomenon, in which the computational process of an algorithm remains opaque, incapacitates the suspect's substantive right to defense and right to explanation; and where police officers on the ground fall into ＂automation bias＂—blind reliance on the judgment of the machine—an un-constitutional result may follow in which the machine displaces normative human judgment.
Against this backdrop, this study explores the public-law regulatory measures and legislative tasks required to keep AI-based predictive policing within the constitutional limits on the restriction of fundamental rights. First, in order to strengthen algorithmic transparency and accountability, the introduction of explainable AI （XAI） technology and the statutory guarantee of the affected party's right to explanation and right to expert assistance should be legislated, and a system of periodic audits by an independent third-party institution should be established to reconcile such transparency with the protection of trade secrets. Second, the legal limits of automated decision-making must be clearly drawn: full automation of the system should be prohibited in principle, and a ＂Human-in-the-Loop＂ framework should be institutionalized so that a human being invariably exercises control at the crossroads of final decision-making. Third, at the practical level, this study proposes that AI ethics and data literacy training for police officers be made regular, and that policing performance metrics be redefined—away from the quantitative, results-oriented evaluation paradigm of the past and toward a prevention-centered process evaluation that takes ＂the absence of crime＂ as its goal.
Ultimately, the purpose of this study is to ensure that predictive policing systems do not remain mere instruments of technological advancement and administrative convenience for state power, but rather to present a normative direction for a criminal justice system in which innovative technological development and the constitutional guarantee of fundamental rights coexist in harmony.

국문 초록 (Abstract)

4차 산업혁명 기술의 비약적 발전과 함께 형사사법의 영역에는 인공지능과 빅데이터를 기반으로 범죄 발생을 사전에 차단하려는 이른바 ‘예측치안’ 시스템이 본격적으로 도입되고 있다. 한국 경찰도 2021년부터 범죄위험도 예측·분석 시스템（Pre-CAS）을 전국에서 운영하고 있다. 사후 대응적 범죄수사에서 선제적·예방적 경찰활동으로의 패러다임 전환은 한정된 치안 자원을 효율적으로 배분하는 장점을 가진다. 그러나 동시에 이는 특정 개인이나 집단을 잠재적 범죄자로 미리 규정함으로써 무죄추정의 원칙과 적법절차라는 형사사법의 대원칙을 근본적으로 훼손할 위험을 동반한다. 의심스러울 때 그 불이익을 누가 부담할 것인가라는 형사사법의 오래된 물음이, 확률의 계산이 의심을 대신하는 예측의 시대에 다시 던져지고 있는 것이다.
특히 인공지능이 과거의 편향된 데이터를 무비판적으로 학습할 경우 기존의 사회적·구조적 차별이 재생산되고 소수자 집단에 대한 과잉 감시가 유발되는 심각한 기본권 침해가 발생할 수 있다. 나아가 알고리즘의 연산 과정이 불투명한 ‘블랙박스’ 현상은 피의자의 실체적 방어권과 설명요구권을 무력화하며, 치안 현장의 경찰관이 기계의 판단에 맹목적으로 의존하는 ‘자동화 편향’에 빠지는 경우 기계가 인간의 규범적 판단을 대체하는 위헌적 결과가 초래될 수 있다.
이에 본 연구는 미국의 간접적 규제（알고리즘 책임법안, 수정헌법 제4조 판례, Loomis 판결）와 유럽연합의 직접적 규제（AI법의 개인 기반 예측치안 금지와 고위험 분류, GDPR·법집행지침）, 그리고 독일 연방헌법재판소의 자동화 된 데이터 분석 위헌 판결을 비교법적으로 고찰하고, 이로부터 인공지능에 의 한 예측적 경찰활동이 헌법적 한계 안에서 통제되기 위한 공법적 규율 방안과 입법 과제를 도출하였다. 첫째, 예측치안 시스템의 데이터 수집과 활용 범위를 규율하는 명확한 수권법률을 제정하고, 인공지능 영향평가를 의무화하며, 목적 구속의 원칙을 확립하여야 한다. 둘째, 알고리즘의 투명성과 설명책임을 강화하기 위해 설명가능한 인공지능（XAI） 기술의 도입과 당사자의 설명요구권·전문가 조력권을 법제화하고, 영업비밀 보호와의 충돌을 조정할 제3의 독립적 기관에 의한 정기적 감사 체계를 신설하여야 한다. 셋째, 자동화된 의사결정의 한계를 법적으로 명확히 설정하여 전면적 자동화를 원칙적으로 금지하고, 최종 의사결정의 교차로에는 반드시 인간이 통제권을 행사하는 ‘Human-in-the-Loop’의 구조를 확립하여야 한다. 넷째, 실무의 차원에서는 경찰관에 대한 인공지능 윤리 및 데이터 리터러시 교육을 정례화하고, 정량적·성과주의적 치안 평가의 패러다임에서 벗어나 ‘범죄의 부재’를 가치로 인정하는 예방 중심의 과정 평가로 지표를 재정립할 것을 제언하였다.
종국적으로 본 연구가 도달하려는 지점은, 예측치안 시스템이 국가 공권력의 기술적 진흥과 행정 편의를 위한 도구에 머물지 않고 혁신적인 기술 발전과 헌법상 기본권 보장이 조화롭게 공존하는 형사사법 체계의 규범적 방향을 제시하는 데 있다.

목차 (Table of Contents)

• 제1장 서론 1
• 제1절 문제의 제기 1
• 제2절 연구의 범위 및 방법 3
• Ⅰ. 연구의 목적 3
• Ⅱ. 연구의 범위 3
• Ⅲ. 연구의 방법 4
• 제2장 예측치안（Predictive Policing）과 Pre-CAS의 이론적 배경 6
• 제1절 예측치안의 개념과 발전 6
• Ⅰ. 예측치안의 의의 6
• 1. 전통적 사후대응 치안의 한계와 정보수집 체계의 진화 6
• 2. 다양한 빅데이터 융합을 통한 스마트 범죄예측 시스템의 확대 현황 7
• 3. 비정형 텍스트마이닝과 차세대 시스템 인프라（KICS）의 고도화 8
• Ⅱ. 예측치안의 범죄학적 기반 9
• 1. 합리적 선택이론에 기초한 범행의 기회 구조 10
• 2. 환경범죄학과 일상활동이론 10
• 3. 상황적 범죄예방 이론과 물리적 환경 통제 11
• 4. 범죄학 이론의 시스템적 구현: 데이터 기반 범죄예측（Pre-CAS 등）으로의 진화 12
• Ⅲ. 예측치안의 유형 12
• 1. 장소 기반 범죄예측 （Hot Spots: 범죄다발지대 예측） 13
• 2. 인적 기반 범죄예측 （Hot People: 범죄자 및 피해자 예측） 14
• 3. 유형 분류가 지니는 법적·규범적 의미 15
• 제2절 국내외 범죄예측 시스템 운영 현황 16
• Ⅰ. 해외의 예측치안 시스템 16
• 1. 미국 16
• 2. 영국 18
• 3. 일본 21
• Ⅱ. 한국의 범죄위험도 예측·분석 시스템（Pre-CAS） 24
• 1. 지리적 프로파일링 시스템（GeoPros）의 발전과 한계 24
• 2. Pre-CAS의 구조와 특징 25
• 3. Pre-CAS의 작동 방식 26
• 제3장 Pre-CAS 운영에 따른 기본권 침해 쟁점 30
• 제1절 개인정보자기결정권 및 사생활의 비밀 침해 30
• Ⅰ. 광범위한 데이터 수집과 감시 30
• 1. 이질적 치안·공공 데이터의 무분별한 융합 30
• 2. 수집정보 오염문제 31
• 3. 목적구속원칙 위반과 새로운 기본권 침해 32
• Ⅱ. 프로파일링과 익명성 훼손 33
• 1. 알고리즘에 의한 자동화된 프로파일링과 혐의 창출 33
• 2. 이종 데이터 결합에 따른 가명정보 재식별 위험 34
• 3. 개인정보자기결정권의 형해화와 정보 통제권 상실 34
• Ⅲ. 위축효과 35
• 1. 디지털 판옵티콘과 감시의 내면화 35
• 2. 불가시적 표적화에 따른 자기검열 36
• 3. 사회적 순응 강제와 공동체 파괴 37
• 제2절 알고리즘 편향성과 평등권（차별받지 않을 권리） 침해 38
• Ⅰ. 데이터의 편향성（Bias in, Bias out） 38
• 1. 오염된 데이터의 무비판적 주입 38
• 2. 데이터 수집 및 가공 과정의 인위적 편견 개입 39
• 3. 기계학습을 통한 편향의 증폭 39
• Ⅱ. 대리 변수에 의한 간접 차별 40
• 1. ‘눈가림을 통한 공정성’의 한계 40
• 2. 중립적 데이터의 대리 변수화와 상관관계 추론 41
• 3. 은밀한 대리 차별과 평등권의 우회적 침해 42
• Ⅲ. 자기실현적 예언과 낙인효과 42
• 1. 위험 지역（Hot-spot） 표적화와 치안 자원의 편중 42
• 2. 피드백 루프를 통한 편향의 자기증명 42
• 3. 자기실현적 예언의 고착화와 영구적 낙인 44
• 제3절 적법절차의 원칙과 공정한 재판을 받을 권리 침해 46
• Ⅰ. 블랙박스 알고리즘의 불투명성 46
• 1. 딥러닝 연산의 기술적 은폐와 상업적 비밀 보호 46
• 2. 알고리즘 통제 불가능성과 적법절차의 훼손 47
• 3. 이유 제시의 한계와 공정한 재판을 받을 권리의 형해화 48
• Ⅱ. 자동화 편향 49
• 1. 기계적 객관성에 대한 환상과 맹신 49
• 2. 책임의 외주화와 무사유（無思惟）의 고착화 50
• 3. 절차적 통제장치의 형해화와 최종 판단 권한의 훼손 51
• Ⅲ. 무죄추정의 원칙 위배 논란 51
• 1. 사후 처벌에서 사전 예측으로의 패러다임 전환과 충돌 52
• 2. ‘잠재적 범죄자’ 규정과 객관적 증거 없는 사전 조치 53
• 3. 혐의 없는 시민에 대한 기본권 제한과 양립 불가능성 53
• Ⅳ. 피의자/피고인의 방어권 제한 54
• 1. 개별화된 양형 및 방어권 행사의 제약 55
• 2. ‘의심스러울 때는 피고인의 이익으로’ 원칙의 무력화와 입증책임 전도 55
• 3. 기술적 비대칭성과 절차적 참여권의 실질적 훼손 56
• 제4장 주요국의 예측치안 규제 법제 및 헌법적 통제 사례 57
• 제1절 미국의 알고리즘 규제와 판례 57
• Ⅰ. 2022 알고리즘 책임법안（Algorithmic Accountability Act of 2022） 57
• 1. 법안의 제안 배경 및 적용 대상 57
• 2. 알고리즘 영향평가 및 보고 의무화 58
• 3. 간접적 규제 방식과 기업의 자기책임성 강조 58
• Ⅱ. 미국 수정헌법 제4조（합리적 의심） 위반 쟁점 59
• 1. 기계의 통계적 확률과 ‘합리적 의심’의 정면 충돌 59
• 2. 핫스팟（Hot-spot） 예측과 ‘개별화된 혐의’ 요건의 형해화 60
• 3. ‘모자이크 이론’의 대두와 대중 감시의 헌법적 통제 60
• Ⅲ. State v. Loomis 판결 61
• 1. 사안의 개요와 COMPAS 알고리즘의 양형 적용 62
• 2. 루미스의 위헌 주장과 위스콘신 주 대법원의 기각 62
• 3. 판결의 의의 및 위험평가 프로그램 사용의 엄격한 한계 설정 63
• 제2절 유럽연합（EU）의 인공지능법（AI Act）과 개인정보보호법（GDPR） 65
• Ⅰ. EU 일반개인정보보호법（GDPR） 및 법집행지침（LED, JI-RL） 65
• 1. 이원화된 보호 체계: GDPR과 법집행지침（JI-RL）의 적용 범위 65
• 2. 법집행지침（JI-RL） 제11조: 자동화된 의사결정의 원칙적 금지 66
• 3. 목적구속의 원칙과 데이터 활용의 한계 67
• Ⅱ. 유럽의회 ‘형사사법 인공지능 결의안（2021）’ 67
• 1. 결의안의 제정 의의와 기본권의 절대적 수호 원칙 68
• 2. 자동화된 의사결정의 배제와 예측적 치안 명시적 반대 69
• 3. 대중 감시의 통제와 생체인식 자동분석의 영구적 금지 69
• Ⅲ. EU 인공지능법（AI Act） 70
• 1. 범행 예측 및 프로파일링 기반 인공지능을 ‘고위험’ 또는 ‘허용할 수 없는 위험’으로 분류 70
• 2. 위험관리시스템 구축, 사람에 의한 감독, 데이터 거버넌스 및 투명성 제공 의무 부과 72
• 제3절 독일의 헌법적 통제 사례 73
• Ⅰ. 연방헌법재판소의 ‘자동화된 데이터 분석’ 위헌 판결 （헤센주 및 함부르크주 경찰법） 73
• 1. 무분별한 데이터 마이닝과 예측적 데이터 분석이 정보적 자기결정권에 미치는 위축효과 73
• 2. 알고리즘의 복잡성으로 인한 차별적 편향 및 감시 리스크 지적 74
• 3. 엄격한 법률유보 및 데이터 처리의 비례성 원칙 제시 75
• 제5장 Pre-CAS의 기본권 침해 최소화를 위한 통제 및 개선방안 77
• 제1절 실체법적·절차법적 통제 방안 77
• Ⅰ. 명확한 법적 근거의 마련 77
• 1. 포괄적 일반조항에 의존하는 현행 실무의 한계 77
• 2. 데이터 수집·분석 및 활용 범위의 구체적 입법화 78
• 3. 개별적 동의의 한계 극복과 ‘집합적 동의’로서의 법률 79
• Ⅱ. 인공지능 및 알고리즘 영향평가 79
• 1. 설계 및 개발 단계에서의 사전적 위험 검증 79
• 2. 외국의 입법례와 고위험 인공지능 규제의 국내 수용 80
• 3. 지속적인 모니터링과 평가 결과의 투명한 공개 80
• Ⅲ. 데이터의 비식별화 및 엄격한 목적외 사용 금지 81
• 1. 가명정보 활용의 확대와 철저한 비식별화 조치 81
• 2. 목적구속의 원칙（Zweckbindung） 확립과 목적 외 전용（轉用）의 금지 82
• 3. 기술적·조직적 통제 방화벽 구축과 접근 권한의 분리 82
• 제2절 알고리즘의 투명성과 설명책임 강화 84
• Ⅰ. 설명가능한 인공지능（XAI） 기술 도입 84
• 1. 블랙박스 모델의 한계와 ‘책임성의 공백’ 84
• 2. 설명가능한 인공지능（XAI）의 형사사법적 필요성 85
• 3. 인적 개입（Human-in-the-loop） 의무의 법제화 85
• Ⅱ. 설명요구권 및 이의제기권 보장 86
• 1. 영업비밀과의 충돌 극복 및 제3의 국가검증기관 도입 86
• 2. 설명요구권의 명문화와 즉각적인 ‘인적 개입 요구권’ 보장 87
• 3. 기술 전문가 조력권 보장을 통한 방어권의 실질적 완성 88
• Ⅲ. 외부 독립기관에 의한 정기적 감사（Audit） 88
• 1. 투명성의 한계와 ‘사후 감사’의 필수성 88
• 2. 독립적 감독기구의 설립과 알고리즘 전문가의 전면 배치 89
• 3. 외국의 독립적 감사위원회 실증 사례와 수용 89
• 제3절 실무 운용상 인간의 개입 보장 91
• Ⅰ. 자동화된 의사결정의 한계 설정 91
• 1. 전면적 자동화의 원칙적 금지와 인간 존엄성 보호 91
• 2. 개인 기반 범죄 예측의 명시적 금지와 고위험 영역의 획정 92
• 3. ‘Human-in-the-Loop（HITL）’ 제도의 확립과 의미 있는 통제권 보장 92
• Ⅱ. 경찰관 대상 알고리즘 윤리 및 편향성 교육 강화 93
• 1. 자동화 편향 극복과 데이터 리터러시 함양 93
• 2. 데이터 편향성 및 오류 가능성에 대한 비판적 인식 훈련 94
• 3. 인공지능 윤리 교육의 정례화 및 내부 전문가 육성 94
• Ⅲ. 성과주의적 치안 평가 지양 95
• 1. 정량적 성과주의의 한계와 근본적인 데이터 왜곡 95
• 2. 컴스탯 패러다임 탈피와 래칫 효과 차단 96
• 3. 치안 평가 기준의 다각화와 ‘범죄 부재’의 가치 인정 96
• 제6장 결론 98
• 제1절 실체법적·절차법적 통제 방안 98
• Ⅰ. 연구 결과의 요약 98
• Ⅱ. 정책적·입법적 제언 99
• Ⅲ. 연구의 한계 및 향후 과제 100
• 참고문헌 103
• ABSTRACT 107