사전학습 언어모델을 활용한 범죄사실 주요정보 자동추출 방안 연구 : Transformer 모델 활용을 중심으로 = Key information extraction for crime investigation using pre-trained language models : focusing on the use of the transformer models

국문 초록 (Abstract)

2021 년 한국 형사소송법의 개정으로 경찰의 수사주체로서의 역할이 강화되었고, 이에 따라 경찰에게 고도화된 수사 전문성이 요구되며, 개별 수사관들이 처리하는 사건 수의 증가로 수사 보고서 작성에 소요되는 시간도 증가하였다. 이러한 상황에서 수사관의 업무 효율성을 높이기 위한 인공지능 지원 시스템에 대한 필요성이 대두되었다. 이에 따라, 본
연구에서는 Transformer 기반의 사전학습 언어모델을 미세조정 학습시켜, 법률 문서에서 18 가지 주요 정보를 자동으로 추출하는 모델을 설계하였다. 이를 위해 본 연구에서는 "살인 범죄사실 주요정보 프레임"을 개발하였고, 사전학습 생성모델을 활용하여 범죄 수사 분야에 특화된 대량의 학습 데이터셋을 구축하였다. 본 연구에서 설계한 텍스트 분류 모델은 87.75%의 F1 스코어를 달성하며, 기계독해 모델보다 전반적으로 높은 성능을 보였다. 또한, 텍스트 분류 모델이 예측한 상위 3 개의 답변 중 정답이 포함되는 비율은 98% 이상으로, 높은 적중율을 보였다. 이와 같은 결과는 텍스트 분류 모델이 복잡한 법률 및 수사 문서로부터 주요정보를 효율적으로 추출하는데 있어 중대한 역할을 할 수 있음을 나타내며, 본 연구 결과를 토대로 수사결과보고서 작성 뿐만 아니라 유사 판례 검색, 사건 타임라인 구축 등 법률
및 수사 분야의 여러 응용 태스크에서 본 모델의 활용 가능성을 제시한다. 이는 수사 과정의 효율성과 공정성 향상에 기여할 수 있는 중요한 발견으로, 법률 및 수사 도메인의 기술 발전에 상당한 기여를 할 것으로 기대된다.

다국어 초록 (Multilingual Abstract)

With the 2021 amendment to the Korean Criminal Procedure Law, the role of the police was strengthened as a primary investigative body. This change subsequently increased the demand for advanced investigative expertise. It also has led to an increase in the number of cases individual investigators handle and the time spent on writing investigation reports. In light of these changes, the necessity for an AI support system to enhance the efficiency of investigative process has increasingly come to the forefront.
Therefore, this study designed a model that fine-tunes a pre-trained Transformer based language model to automatically extract 18 key information from legal documents. For this purpose, a "Key Information Frame for Murder Crime Facts" was developed, and a large training dataset specialized for criminal investigation was constructed using a pre-trained generative model.
The text classification model designed in this study achieved an F1 score of 87.75%, showing overall higher performance than machine reading comprehension models. Additionally, the top three answers predicted by the text classification model contained the correct answer more than 98% of the time, demonstrating a high accuracy rate of this model. These results indicate that the text classification model can play a significant role in efficiently extracting key information from complex legal and investigative documents.
Based on the findings of this study, the model's potential applications extend beyond writing investigation reports to tasks such as searching for similar legal precedents and constructing case timelines in the legal and investigative fields. This is an important discovery that can contribute to the efficiency and fairness of the investigative process, and is expected to make a substantial contribution to the technological advancement in the legal and investigative domains.

목차 (Table of Contents)

• 제 1 장 서 론 １
• 제 1 절 연구배경 및 목적 １
• 제 2 장 이론적 배경 ５
• 제 1 절 범죄 정보 추출 방법론 ５
• 제 2 절 범죄 정보 추출 대상과 범죄 구성요건 ７
• 1. 범죄 구성요건 ７
• 2. 양형 가중요소 및 감경요소 . ９
• 제 3 절 Transformer 기반 사전학습 언어모델 및 평가지표 １１
• 1. Transformer １１
• 2. 모델 평가지표 ２０
• 제 4 절 법률 및 수사 분야의 정보 추출 관련 선행연구 분석 ２５
• 1. 해외 연구 ２６
• 2. 국내 연구 ２８
• 제 3 장 주요정보 추출 방안 ３１
• 제 1 절 주요정보 프레임 구축 ３１
• 1. 데이터 준비 ３１
• 2. 주요 정보 정의 ３３
• 제 2 절 사전학습 생성모델을 활용한 주요정보 데이터셋 구축 ４２
• 1. 프롬프트 구축 ４３
• 2. 성능평가 및 결과 분석 ４５
• 3. 최종 데이터셋 구축 ４９
• 제 3 절 주요정보 자동 추출 모델 실험 ５１
• 1. 기계독해 모델을 활용한 주요정보 추출 ５３
• 2. 텍스트 분류 모델을 활용한 주요정보 추출 ５６
• 제 4 장 결과 및 시사점 ６３
• 제 1 절 성능 비교 ６３
• 1. 베이스라인 성능 비교 ６３
• 2. 모델 성능 비교 ６６
• 3. 결과 분석 및 토의 ６９
• 제 2 절 모델의 범죄수사 활용 방안 및 추후 연구 ７２
• 참고문헌 ７３
• 국문초록 ８２
• 영문초록 ８３
• 부 록 ８５
• <부록 1 > GPT-3.5 프롬프트 한국어 예시 ８５