양형과 인공지능 - 국민의 법감정 수렴, 위험 판단, 양형 분석을 중심으로 - = Sentencing and Artificial Intelligence - Focusing on public sentiment analysis, risk assessment, and sentencing analysis -

다국어 초록 (Multilingual Abstract)

Artificial intelligence technology is making remarkable progress. This emerging technology is anticipated to find applications in numerous facets of the judiciary's functions in the near future, notably in aiding judges in their tasks. In this article, we delve into three key domains where AI has the potential to be leveraged in sentencing, either now or in the near future. Firstly, the paper discusses diversification in the methods used to aggregate public sentiment concerning the criminal policy, facilitated by sentiment analysis. This is accomplished by gathering online posts and commentary about sentencing, which are then classified and analyzed using an AI tool known as sentiment analysis. This approach allows us to discern patterns in legal sentiment and gauge honest reactions that are elusive when traditional opinion gathering methods are employed. These conventional methods include public hearings, polls, and soliciting opinions from relevant organizations. Secondly, the article explores the objectification of risk assessment via recidivism risk prediction. We review various discussions happening in the United States, where AI tools for predicting recidivism risk are being deployed in the sentencing process. We further summarize the issues to be considered before introducing these tools in Korea. Lastly, we highlight the automation of sentencing analysis using information extraction technology. If the sentencing data analysts within the Sentencing Commission can automate the extraction of sentencing factors and the term of sentences from judicial decisions, a task traditionally performed manually, it would not only enable real-time analysis of sentencing, but also pave the way for delivering real-time sentencing statistics to judges.

국문 초록 (Abstract)

인공지능 기술이 눈부신 발전을 거듭하고 있다. 법관의 업무를 보조하는 것을 포함하여 사법부의 업무의 다양한 측면에서도 조만간 인공지능 기술이 활용될 수 있을 것으로 기대되고 있다. 이 글에서는 지금 당장 혹은 가까운 미래에 양형과 관련하여 인공지능 기술이 활용될 수 있는 세 가지 국면을 제시하고자 한다. 첫째는 감성분석기술(sentiment analysis)을 이용한 국민의 법감정 수렴방법의 다각화이다. 양형에 관한 온라인상의 게시글이나 댓글을 수집하여 그곳에 드러난 국민의 법감정을 감성분석이라는 인공지능 기술을 이용하여 분류하고, 분석함으로써 공청회나 여론조사, 관계기관 의견조회 등 기존의 의견수렴 방법을 통해서는 미처 포착하기 어려웠던 법감정의 추이나 온라인상에 드러난 솔직한 반응을 관찰할 수 있다. 둘째는 재범위험예측기술(recidivism risk assessment)을 이용한 위험성 판단의 객관화이다. 인공지능 재범위험예측도구를 양형에 활용하고 있는 미국에서 이루어지고 있는 다양한 논의를 살피고, 우리나라에서 이를 도입하기 전에 점검할 사항들을 정리해 본다. 셋째는 정보추출기술(information extraction)을 이용한 양형분석의 자동화이다. 양형위원회 소속 양형자료분석관들이 수작업으로 해 오던 판결문에서 양형인자와 형량을 추출하는 작업을 정보추출기술을 이용하여 자동화한다면, 이를 통하여 실시간 양형분석이 가능해 질 뿐 아니라 법관들에게도 실시간 양형통계를 제공할 수 있는 기반이 마련될 것이다.

참고문헌 (Reference)

1 김웅재, "형사절차에서 인공지능 알고리즘의 활용가능성과 그 한계" 서울대학교 기술과법센터 16 (16): 2020

2 "헌법재판소 2021. 11. 25.자 2019헌바446, 2020헌가17, 2021헌바77(병합) 결정"

3 이수정 ; 고려진 ; 박혜란, "한국 성범죄자 위험성 평가 도구 개발 및 타당도 연구" 한국형사법무정책연구원 19 (19): 309-345, 2008

4 황태연 ; 유정모 ; 김화연, "제주 예멘난민 사태 전후 국내 여론변화 분석: 심층 인공신경망을 활용한 감성분석을 중심으로" 한국행정학회 56 (56): 127-166, 2022

5 고려진 ; 이수정 ; 손세림 ; 한상국, "재범 추적을 통한 한국판 PCL-R의 예측타당성 연구" 한국형사법무정책연구원 27 (27): 1-29, 2016

6 박진우 ; 서하영 ; 이선호 ; 은지우 ; 김익수, "자연어 처리를 이용한 유튜브 댓글 여론 변화 분석" 한국지식정보기술학회 17 (17): 609-620, 2022

7 장진환, "인공지능재범위험성평가도구의 도입가능성과 규범적 문제점 - 보안처분 선고절차에서의 적용가능성을 중심으로 -" 한국형사정책학회 34 (34): 41-77, 2022

8 이호중, "우리나라의 양형기준에 대한 비판적 분석" 한국형사법학회 22 (22): 241-272, 2010

9 박형관, "우리나라 양형기준 설정방식과 양형위원회 운용방식에 관한 점검 및 개선방안" 한국형사정책학회 26 (26): 7-41, 2014

10 엄기홍 ; 김대식, "온라인 정치 여론 분석을 위한 댓글 분류기의 개발과 적용: KoBERT를 활용한 여론 분석" 한국정당학회 20 (20): 167-191, 2021

11 엄기홍, "온라인 공간은 누구의 의견을 대표하는가?" 미래정치연구소 10 (10): 99-122, 2020

12 최호진, "양형기준의 합리성 검토와 개선방향" 한국비교형사법학회 11 (11): 81-103, 2009

13 서보학, "양형기준의 시행에 대한 평가와 개선방향" 한국형사법학회 23 (23): 59-86, 2011

14 정숙희, "양형기준에서 일반양형인자의 실효성 검증 및 효율성 제고 방안" 대검찰청 (62) : 69-104, 2019

15 이상아 ; 장한솔 ; 백연미 ; 박수지 ; 신효필, "소규모 데이터 기반 한국어 버트 모델" 한국정보과학회 47 (47): 682-692, 2020

16 진보래 ; 양정애, "성격특성, 오프라인 활동, 정치성향, 삶의 만족도에 따른 SNS 이용" 한국언론학회 59 (59): 239-272, 2015

17 정채연, "사법절차 및 사법서비스에서 인공지능 기술의 도입 및 수용을 위한 정책 연구" 사법정책연구원 2021

18 이은미, "빅데이터의 정부 의사결정 반영에 관한 탐색적 연구 - 사회적 관심의 재난위기단계 적용을 중심으로 -" 한국정책학회 24 (24): 491-512, 2015

19 서대호 ; 김지호 ; 김창기, "댓글 분석을 통한 19대 한국 대선 후보이슈 파악 및 득표율 예측" 한국지능정보시스템학회 24 (24): 199-219, 2018

20 "대법원 2010. 12. 9. 선고 2010도7410 판결"

21 김혜정 ; 기광도, "뇌물수수죄의 양형기준제도 준수현황 및 개선방안" 법조협회 64 (64): 5-44, 2015

22 김혜정 ; 기광도, "강제추행죄의 양형기준제도 운영현황 및 개선방안" 법학연구소 29 (29): 155-194, 2017

23 國立清華大學 人工智慧與基礎研究群, "量刑資訊系統之AI標註與優化發展計畫"

24 胡宜如, "量刑公開透明—司法院量刑系統介紹" 財團法人法律扶助基金會

25 司法院 本院新聞, "因應國民法官新制，司法院啟用AI量刑資訊系統--具備二種模式、擁有四大優點"

26 한애라, "“사법시스템과 사법환경에서의 인공지능 이용에 관한 유럽 윤리헌장”의 검토 - 민사사법절차에서의 인공지능 도입 논의와 관련하여 -" 한국법학원 172 : 38-79, 2019

27 유진, "‘위험한 범죄자’와 현대 위험관리체제의 성격 : 재범위험성 평가의 발전과 역설적 효과" 법과사회이론학회 (58) : 171-215, 2018

28 홍윤지, "‘디지털전도사’ 강민구 고법부장판사, “한국 법조, 생성형 AI 기술 신속히 도입해야”" 법률신문

29 "https://sen.judicial.gov.tw/pub_platform/sugg/index.html"

30 "https://github.com/monologg/HanBert-Transformers"

31 "https://github.com/SKTBrain/KoBERT"

32 "https://github.com/Beomi/KcBERT"

33 Julia Dressel, "and Limits of Predicting Recidivism" 4 : 5580-, 2018

34 Ray M. Chang, "Understanding the paradigm shift to computational social science in the presence of big data" 63 : 67-, 2014

35 Alan Mislove, "Understanding the demographics of Twitter users" 5 : 554-, 2011

36 Jonathan Mellon, "Twitter and Facebook are not representative of the general population: Political attitudes and demographics of British social media users" 4 : 1-, 2017

37 Sayyida Tabinda Kokab, "Transformer-based deep learning models for the sentiment analysis of social media data" 14 : 100157-, 2022

38 Kristian Lum, "To Predict and Serve?" 13 : 14-, 2016

39 Ben Green, "The flaws of policies requring human oversight of government algorithms" 45 : 1-, 2022

40 Brandon L. Garrett, "The Right to a Glass Box: Rethinking the Use of Artificial Intelligence in Criminal Justice" 1-,

41 Stefania Aegisdóttir, "The Meta-Analysis of Clinical Judgment Project : Fifty-Six Years of Accumulated Research on Clinical Versus Statistical Prediction" 34 : 341-, 2006

42 Sam Corbett-Davies, "The Measure and Mismeasure of Fairness: A Critical Review of Fair Machine Learning"

43 Zhiyuan Lin, "The Limits of Human Predictions of Recidivism" 6 : 0652-, 2020

44 Cynthia Rudin, "The Age of Secrecy and Unfairness in Recidivism Prediction" 2 : 1-, 2020

45 Anthony Heyes, "Temperature and Decisions: Evidence from 207,000 Court Cases" 11 : 238-, 2019

46 "State v. Loomis, 881 N.W.2d 749"

47 Jeremy Prichard, "Social Media Sentiment Analysis : A New Empirical Tool for Assessing Public Opinion on Crime" 27 (27): 227-, 2015

48 Jongbin Jung, "Simple Rules for Complex Decisions"

49 F. M. J. M. Shamrat, "Sentiment analysis on twitter tweets about COVID-19 vaccines using NLP and supervised KNN classification algorithm" 23 : 463-, 2021

50 Zulfadzli Drus, "Sentiment Analysis in Social Media and Its Application: Systematic Literature Review" 161 : 707-, 2019

51 Zulfadzli Drus, "Sentiment Analysis in Social Media and Its Application : Systematic Literature Review" 161 : 707-, 2019

52 이하나 ; 양승목, "SNS 이용자 집단 구분과 예측 변인들의 영향에 관한 연구 : 비이용자, 소극적 이용자, 적극적 이용자를 중심으로" 한국방송학회 31 (31): 5-40, 2017

53 John Monahan, "Risk Redux : The Resurgence of Risk Assessment in Criminal Sanctioning" 26 : 158-, 2014

54 Jonathan Simon, "Reversal of Fortune : The Resurgence of Individual Risk Assessment in Criminal Justice" 1 : 397-, 2005

55 Sharad Goel, "Research Handbook on Big Data Law 9" 2021

56 Rajeev Ramchand, "Racial Differences in Marijuana-Users Risk of Arrest in the United States" 84 : 264-, 2006

57 Mark D. Ramirez, "Punitive sentiment" 51 : 329-, 2013

58 Francis T. Cullen, "Public opinion about punishment and corrections" 27 : 1-, 2000

59 Laura & John Arnold Foundation, "Public Safety Assessment: Risk Factors and Formula"

60 Justin T. Pickett, "Public Opinion and Criminal Justice Policy : Theory and Research" 2 : 405-, 2019

61 Julio Cesar Amador Diaz Lopez, "Predicting the Brexit vote by tracking and classifying public opinion using twitter data" 8 : 85-, 2017

62 Carolyn McKay, "Predicting risk in criminal procedure: actuarial tools, algorifhms, AI and judicial decision-making" 32 : 22-, 2020

63 Gijs van Dijck, "Predicting Recidivism Risk Meets AI Act" 28 : 407-, 2022

64 Richard Susskind, "Online Courts and the Future of Justice" 2019

65 Forough Poursabzi-Sangdeh, "Manipulating and measuring model interpretability" 2021

66 "Malenchik v. State, 928 N.E.2d 564, 575"

67 Julia Angwin, "Machine Bias" ProPublica

68 G. Dharani Devi, "Literature review on sentiment analysis in social media : open challenges toward applications" 29 : 1462-, 2020

69 Muhammad Zubair Asghar, "Lexicon-enhanced sentiment analysis framework using rule-based classification scheme" 12 : 0171649-, 2017

70 Melisa Hamilton, "Judicial gatekeeping on scientific validity with risk assessment tools" 38 : 226-, 2020

71 Brandon L. Garrett, "Judging risk" 108 : 439-, 2020

72 Nicholas Scurich, "International Perspectives on Violence Risk Assessment 3" 2016

73 Jon Kleinberg, "Inherent Trade-Offs in the Fair Determination of Risk Scores"

74 Peter K. Enns, "Incarceration Nation: How the United States Became the Most Punitive Democracy in the World" 2016

75 Jeffrey R. Kling, "Incarceration Length, Employment, and Earnings" 96 : 863-, 2006

76 Jennifer Skeem, "Impact of Risk Assessment on Judges' Fairness in Sentencing Relatively Poor Defendants" 44 : 51-, 2019

77 Alex Albright, "If You Give a Judge a Risk Score: Evidence from Kentucky Bail Decisions" 2019

78 Jon Kleinberg, "Human Decisions and Machine Predictions" 133 : 237-, 2018

79 Nina Grgić-Hlača, "Human Decision Making with Machine Assistance: An Experiment on Bailing and Jailing" 2019

80 Daniel Martin Katz, "GPT-4 Passes the Bar Exam" Elsevier BV 2023

81 Jens Ludwig, "Fragile algorithms and fallible decision-makers : lessons from the justice system" 35 : 71-, 2021

82 Rami Mohawesh, "Fake reviews detection : A survey" 9 : 65771-, 2021

83 Syed Ishfaq Manzoor, "Fake news detection using machine learning approaches: A systematic review" 230-, 2019

84 Berk, "Fairness in Criminal Justice Risk Assessments: The State of the Art" 1-, 2018

85 Alexandra Chouldechova, "Fair Prediction with Disparate Impact : A Study of Bias in Recidivism Prediction Instruments" 5 : 153-, 2017

86 Sonja B. Starr, "Evidence-Based Sentencing and the Scientific Rationalization of Discrimination" 66 : 803-, 2014

87 Mirko Bagaric, "Erasing the Bias Against Using Artificial Intelligence to Predict Future Criminality: Algorithms Are Color Blind and Never Tire" 88 : 1037-, 2020

88 Don M. Gottfredson, "Effects of Judges’ Sentencing Decisions on Criminal Careers" U.S. Department of Justice

89 Ben Green, "Disparate Interactions: An Algorithm-in-the-Loop Analysis of Fairness in Risk Assessments" 90-, 2019

90 Eric Mitchell, "Detectgpt: Zero-shot machine-generated text detection using probability curvature"

91 Daniel L. Chen, "Decision Making under the Gambler’s Fallacy: Evidence from Asylum Judges, Loan Officers, and Baseball Umpires" 131 : 1181-, 2016

92 Wonseok Hwang, "Data-efficient End-to-end Information Extraction for Statistical Legal Analysis" 2022

93 Catherine A. Gao, "Comparing scientific abstracts generated by ChatGPT to real abstracts with detectors and blinded human reviewers" 6 : 75-, 2023

94 Paul E. Meehl, "Clinical versus Statistical Prediction: A Theoretical Analysis and Review of the Evidence" 1954

95 Robyn M. Dawes, "Clinical versus Actuarial Judgement" 243 : 1668-, 1989

96 William M. Grove, "Clinical Versus Mechanical Prediction : A Meta-Analysis" 12 : 19-, 2000

97 Don M. Gottfredson, "Choosing Punishments: Crime Control Effects of Sentences" 1999

98 Megan Stevenson, "Assessing risk assessment in action" 103 : 303-, 2018

99 Ben Green, "Algorithmic risk assessments can alter human decision-making processes in high-stakes government contexts" 1-, 2021

100 Megan T. Stevenson, "Algorithmic Risk Assessment in the Hands of Humans"

101 Berkeley J. Dietvorst, "Algorithm Aversion : People Erroneously Avoid Algorithms after Seeing Them Err" 144 : 114-, 2015

102 Amy L. Anderson, "Age, period, and cohort effects on death penalty attitudes in the United States, 1974–2014" 55 : 833-, 2017

103 Daniel A. Krauss, "Adjusting Risk of Recidivism : Do Judicial Departures Worsen or Improve Recidivism Prediction Under the Federal Sentencing Guidelines?" 22 : 731-, 2004

104 이병규, "AI의 예측능력과 재범예측알고리즘의 헌법 문제- State v. Loomis 판결을 중심으로" 한국비교공법학회 21 (21): 169-191, 2020

105 동아일보, "AI 챗봇으로 기사 만드는 ‘가짜뉴스’ 업체 49곳 무더기 적발"

106 Maria De-Arteaga, "A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous Algorithmic Scores" 1-, 2020

107 양형위원회, "2021 연간보고서" 2023