혐오 표현 탐지를 위한 주제 매칭 모델 개발: 디자인 사이언스 접근 = Topic Matching Model for Hate Speech Detection: A Design Science Approach

국문 초록 (Abstract)

인터넷과 소셜 미디어의 발전은 사람들이 사회적, 정치적 이슈에 대해 의견을 자유롭게 나눌 수 있게 만들었지만, 이에 따라 차별적인 혐오 표현이 급증하는 부작용도 발생했다. 한국의 최근 통계를 보면, 2014년 대비 2020년에 사이버 명예훼손 사건이 118.3% 증가하며, 이와 관련한 검거 사건도 102.5% 증가했다. 특히, 뉴스 애그리게이터 플랫폼의 댓글 섹션은 혐오 표현이 집중적으로 발생하는 공간이 되어왔다. 뉴스 애그리게이터 플랫폼에서 발생한 혐오 표현은 대중의 지식, 행동을 형성하는 데 매우 중요하며, 향후 플랫폼의 비즈니스 모델에도 영향을 미칠 수 있다. 이에 따라, 뉴스 애그리게이터 플랫폼에서 혐오 표현을 시의적절하게 탐지하는 것은 중요한 사회적 과제로 인식되고 있다. 혐오 표현 탐지에 관한 연구가 많은 주목을 받고 있으나, 혐오 표현 탐지에 관한 기존 연구는 미디어에서 제공하는 맥락적 정보를 충분히 반영하지 못하고 있다. 또한, 이론 중심의 알고리즘 설계 방식의 많은 장점에도, 기존 연구는 단순히 새로운 알고리즘을 도입하는 데 중점을 두고 있다. 이러한 기존 연구의 한계를 바탕으로 본 연구는 뉴스 애그리게이터 플랫폼에서 혐오 표현의 맥락정보를 반영하는 의제설정이론(Agenda-Setting Theory) 기반의 모델 개발을 목표로 한다. 본 연구는 디자인 사이언스의 연구 접근 방식에 따라 이론을 접목한 딥러닝 모델을 개발 및 평가한다. 첫 번째로, 미디어의 헤드라인과 댓글을 매칭시키는 ‘주제 매칭 모델(Topic-Matching)’을 개발한다. 두 번째 단계에서는 미디어가 전달하는 대상의 감정적 속성을 분석하기 위해 헤드라인과 관련 맥락의 감정을 분류한다. 이렇게 얻은 주제 매칭 결과와 감정 분류 정보를 결합하여, 최종적으로 혐오 표현을 탐지하는 모델을 개발한다. 마지막으로, 연구에서 제안된 모델의 효과를 검증하기 위해 실제 외부 사건에서 발생한 혐오 표현을 대상으로 사후 검증을 진행하며, 이를 통해 모델의 유효성을 평가한다. 본 연구는 몇 가지 중요한 시사점을 제시한다. 첫째, 미디어가 대중의 인식에 미치는 영향을 설명하는 의제설정이론을 활용한 딥러닝 모델을 개발로 방법론적인 기여를 한다. 둘째, 본 연구에서 제시한 모델은 외부 사건에 의한 혐오 표현을 더욱 민감하게 감지할 수 있는 일반화 가능성을 보여준다. 마지막으로, 이론 기반 기계학습 설계 방식은 컴퓨터 과학 분야에서 주로 채택되는 설계 방식에 새로운 관점을 제시하며, 성능 향상과 함께 이론을 새로운 환경에서 검증한다는 점에서 기여점이 있다.

다국어 초록 (Multilingual Abstract)

The internet and social media development has enabled freer sharing of opinions on social and political issues, but it also led to a surge in hate speech. Recent Korean statistics show a 118.3% increase in hate speech cases in 2020 compared to 2014, with related arrests rising by 102.5%. Comment sections of news aggregator platforms have become hate speech hotspots. This hate speech shapes public knowledge and behavior significantly and might influence these platforms' business models. Recognizing the timely detection of hate speech on news aggregator platforms as a crucial social challenge, research in this area has gained attention. However, existing studies often fail to reflect the media's contextual information adequately. Despite theory-driven machine learning's many advantages, current research mainly focuses on new algorithm introduction, overlooking theoretical principles' comprehensive application. To address these research gaps, this study develops a model based on agenda-setting theory, capturing the hate speech context on news aggregator platforms. Using a design science research approach, the study develops and evaluates a deep learning model incorporating this theory. It first develops a Topic-Matching model to align media headlines with comments. In the second stage, it analyzes the emotional attributes of media-presented issues by classifying related emotions in headlines and context. The study then combines topic matching and emotional classification results to detect hate speech. It concludes with a post-evaluation process to assess the model's effectiveness in detecting real-world hate speech. This study offers several implications. It methodologically contributes by developing a deep learning model using agenda-setting theory to explain media influence on audience perception. The proposed model shows potential for generalizability in sensitively detecting hate speech triggered by external events. Finally, the theory-based machine learning design approach introduces a new perspective to computer science design approaches, enhancing performance and validating theory in new environments.

목차 (Table of Contents)

• 제1장 서론
• 1.1 연구 배경
• 1.2 연구 동기
• 1.3 연구 목적 및 기대효과
• 제2장 개념적 배경
• 2.1 혐오 표현의 개념
• 2.2 혐오 표현 탐지와 선행 연구
• 2.3 의제설정이론
• 2.4 디자인 사이언스 접근법
• 제3장 모델 설계
• 3.1 의제설정기능 단계
• 3.2 감정설정기능 단계
• 제4장 실험 및 평가
• 4.1 활용 데이터
• 4.2 베이스 라인 모델
• 4.3 성능 평가
• 4.4 사후 평가
• 제5장 토의
• 5.1 분석 결과 토의
• 5.2 한계점 및 향후 연구
• 제6장 시사점
• 6.1 학술적 시사점
• 6.2 실무적 시사점
• 제7장 결론
• 참고문헌
• ABSTRACT