위험평가 알고리즘과 형사사법절차 구성에 관한 연구 = Research on organizing criminal justice with risk assessment algorithms

국문 초록 (Abstract)

본 논문은 이미 우리 삶의 영역 곳곳에 스며들고 있는 인공지능기술이 형사사법절차에서 어떻게 활용되고 있는지 분석하고, 기술의 특성과 형사사법절차의 특성에 대한 보다 정확한 이해를 바탕으로 우리가 인공지능기술과 함께 더 나은 형사사법절차를 구성할 방안을 모색한다. 현재 양형심리 등 핵심적인 형사사법절차에서 적극적으로 위험평가 알고리즘을 활용하고 있는 미국에서 가장 대표적인 도구로 평가받고 있는 컴파스(Correctional Offender Management Profiling for Alternative Sanctions, COMPAS)를 중심으로, 동시대 여러 전문가들의 대립되는 시각을 살펴보고 논의의 지형을 분석한다.
행위자 네트워크 이론(Actor-Network Theory, ANT)은 기술 자체가 그것의 사회적 결과를 결정하지 않으며, 그 기술을 사용하는 인간 행위자나 기술과 연결된 비인간 행위자의 행위가 기술과 결합하여 구축하는 연결망의 형태에 따라 기술의 사회적 결과가 결정된다고 설명한다. 본 논문은 이러한 과학기술학의 관점을 토대로, 사회과학에서 통계학적 방법론의 발달과 공리주의적 필요성을 바탕으로 인공지능 기반의 위험평가 알고리즘이 서로 다른 대륙에서 서로 다른 형태의 네트워크를 형성하고 권력을 획득해 온 궤적을 기술하고 이를 둘러싼 논쟁의 역사를 살펴본다.
나아가 합목적성, 객관성, 유연성, 투명성, 공정성, 독립성 등 인간의 법정에서 중요하게 여겨져 온 가치들을 중심으로 위험평가 알고리즘의 가능성과 한계를 분석하고, 형사사법절차에서 인공지능기술에 위임할 수 있는 영역과 그렇지 않은 영역을 구분하여 살펴본다. 위험평가 알고리즘은 반드시 객관적이거나 공정하지 않을 수 있지만, 인간이 만들고 운용해 온 사법절차 역시 여러 가지 면에서 불완전하고 때로는 불공정할 수 있기 때문이다. 본 논문은 비인간 행위자를 이해하고 조정하며 네트워크의 일원으로 포함시키는 테크노사이언스(technoscience)적 관점에서, 위험평가 알고리즘이라는 비인간 행위자에게 우리의 행위를 바꿀 수 있는 행위능력이 있음을 인정하는 한편 그를 우리에게 더 의미 있는 존재로 바꾸고자 노력한다. 인공지능 알고리즘은 일정한 조건 하에서 인간의 모호성을 구체성으로 대체할 수 있고, 인간의 편견을 거울처럼 비춰줌으로써 의사결정의 투명성과 공정성을 제고하는 데에 도움을 줄 수 있다. 본 논문은 이러한 관점에서 형사사법절차의 종류를 세분하여, 미국과 같은 형태로 형사판결의 양형심리절차에서 통계적 위험평가도구를 활용하는 것을 지양하되, 인신구속, 부수처분, 보호처분, 보안처분 등 우리 법제 하에서 재범위험성을 고려하여 판단하도록 규정하고 있는 제3의 형사사법절차에서 기술과 인간이 서로를 보완하는 방식으로 통계적 위험평가도구를 활용하는 방안을 제안한다.

다국어 초록 (Multilingual Abstract)

This paper analyzes how artificial intelligence technology, which has already permeated all areas of our lives, is being used in criminal justice procedures, and seeks ways to create better criminal justice procedures with artificial intelligence technology based on a more accurate understanding of the characteristics of the technology and of criminal justice procedures. Focusing on COMPAS(Correctional Offender Management Profiling for Alternative Sanctions), which is considered the most representative tool in the United States which is actively using risk assessment algorithms in core criminal justice procedures such as sentencing hearings, this paper will examine the conflicting views of various experts of this era and analyze the landscape of the discussion.
Actor-Network Theory (ANT) explains that technology itself does not determine its social consequences, but that the social consequences of technology are determined by the form of the network that is built by the actions of human actors using the technology or non-human actors connected to the technology. From this perspective of science and technology, this paper describes the trajectory in which risk assessment algorithms have formed different types of networks and gained power on different continents based on the development of statistical methodologies in the social sciences and the utilitarian need for them.
Furthermore, this paper analyze the possibilities and limitations of risk assessment algorithms based on the values that have been considered important in human courts, such as fitness, objectivity, flexibility, transparency, fairness, and independence, and examine the areas in which AI technology can be delegated to in criminal justice proceedings and the areas in which it cannot. Risk assessment algorithms may not necessarily be objective or fair, but judicial procedures, which have been created and operated by humans, are also imperfect in many ways and can sometimes be unfair. From the technoscientific perspective of understanding, coordinating, and including nonhuman actors as members of a network, this paper acknowledges that risk assessment algorithms have the ability to change our behavior, while also striving to make them more meaningful to us. Under certain conditions, artificial intelligence algorithms can replace human vagueness with specificity and mirror human biases, helping to increase the transparency and fairness of decision-making. This paper categorizes the types of criminal justice proceedings from this perspective and suggests that risk assessment algorithms should not be used in the sentencing hearing process of criminal judgment like the United States, but should be used in the third type of criminal justice proceedings where it is supposed to consider the risk of recidivism, in ways that technology and human beings complement each other.

목차 (Table of Contents)

• 1. 서론 1
• 2. 이론적 틀과 선행 연구 10
• 2.1. 비관적 관점의 선행 연구 10
• 2.2. 낙관적 관점의 선행 연구 16
• 2.3. 논의의 지형 분석 19
• 3. 통계적 위험평가도구의 형성과정 26
• 3.1. 초기 범죄통계의 역사 28
• 3.1.1. 사회과학과 통계적 방법론의 발달 28
• 3.1.2. 범죄통계를 둘러싼 치열한 논쟁 34
• 3.2. 20세기 이후의 범죄통계 및 위험평가 제도 41
• 3.2.1. 더 많은 데이터를 향하여 41
• 3.2.2. 개인의 미래를 예측하려는 꿈 44
• 3.2.3. 미래 예측 알고리즘의 구현 48
• 3.3. 평균인 논쟁의 현대적 의의 51
• 4. 통계적 위험평가도구의 문제점과 그 원인 57
• 4.1. 컴파스의 원리와 형사법적 기능 58
• 4.2. 컴파스의 6가지 문제점과 원인 분석 60
• 4.2.1. 합목적성의 관점 60
• 4.2.2. 객관성의 관점 69
• 4.2.3. 유연성의 관점 78
• 4.2.4. 투명성의 관점 85
• 4.2.5. 공정성의 관점 92
• 4.2.6. 독립성의 관점 98
• 4.3. 소결 103
• 5. 위험평가도구와 함께 형사사법절차 재구성하기 106
• 5.1. 테크노사이언스의 관점에서 바라본 위험평가도구 106
• 5.2. 인신구속 및 석방 절차 110
• 5.3. 보안처분, 부수처분, 보호처분 절차 118
• 5.4. 네트워크의 형성을 위한 전략 125
• 6. 결론 130
• 참고문헌 134
• Abstract 144