Analyzing the patterns of hate speech : Topic modeling of Online community postings in South Korea

국문 초록 (Abstract)

디지털 전환이 진전되고 사회적 긴장이 고조됨에 따라 온라인 혐오 표현에 대한 학문적 관심이 증가하고 있다. 온라인 커뮤니티는 정보 공유와 토론을 위한 긍정적인 플랫폼으로 기능하지만 동시에 취약한 집단을 대상으로 한 혐오 표현의 확산을 촉진하여 사회적 갈등을 악화시키기도 한다. 온라인 커뮤니티에서의 혐오 발언에 대한 기존 연구는 그 범위가 제한적이며 특정 유형의 혐오에 초점을 맞추는 경우가 많아 혐오 표현의 특성과 구조에 대한 포괄적인 분석은 미흡했다.
본 연구는 11개의 한국 온라인 커뮤니티에서 2001년부터 2022년까지를 포함하는 약 200,000개의 혐오 관련 게시물을 수집하고, 토픽 모델링과 워드 임베딩을 결합한 ETM(Embedded Topic Model) 기법을 사용하여 분석했다. 본 연구는 온라인 혐오 표현의 구조에 대한 보다 객관적인 관점을 제공하기 위해 7가지 혐오 유형과 키워드를 식별하였다.
연구 결과, 온라인 커뮤니티에서 정치, 성별, 연령이 주요 혐오 유형으로 나타났으며, 장애인, 외국인, 성적 소수자에 대한 혐오는 상대적으로 주변적인 것으로 나타났다. ETM 분석을 통해 온라인 게임 및 여타 문화 장르와 같은 다양한 플랫폼을 통해 혐오가 하나의 유머와 별칭으로서 확산되는 숨겨진 패턴을 확인하였다. 법원, 검찰, 정당, 미디어, 교육 등 사회적 기관은 혐오의 대상이 되는 한편, 혐오에 대응하는 행위자로서 논의되기도 했다.
본 연구는 온라인 혐오 발언이 커뮤니티 내 사회적 갈등을 반영하고 심화시키는 방식을 밝힘으로써 혐오에 대한 사회학적 연구에 기여한다. 온라인 혐오 담론의 구조를 밝힘으로써 문화 사회학의 이해를 확장하고, AI 중심의 혐오 연구를 넘어 사회 과학 연구를 확장시킨다.

다국어 초록 (Multilingual Abstract)

As digital transformation advances and social tensions rise, scholarly interest in online hate speech grows. While online communities serve as positive platforms for information sharing and discussions, they also fuel the spread of hate speech targeting vulnerable groups, exacerbating social conflicts. Previous research on hate speech in online communities has been limited in scope and often focused on specific types of hatred, neglecting broader analyses of its characteristics and structures.
This study collected around 200,000 hate related posts from 11 Korean online communities spanning from 2001 to 2022 and used the ETM technique, which combines topic modeling and word embedding. This study also identifies seven hate types and keywords, aiming to provide a more objective view of online hate speech structures. The findings highlight politics, gender, and age as primary types of hate in online communities, with hate towards disabled individuals, foreigners, and sexual minorities being relatively peripheral. Through ETM analysis, hidden patterns in hate discourse are identified, showing how hate spreads through various platforms like online games and cultural genres. Social institutions such as the court, prosecution, political parties, media, and education are targets of hate, while discussions also involve actors responding to hate.
This study contributes to sociological research on hate by revealing how online hate speech reflects and intensifies social conflicts within communities. By elucidating the structure of hate discourse online, it expands cultural sociology's understanding and broadens research in the social sciences beyond AI centric hate studies.

목차 (Table of Contents)

• 1. Introduction 1
• 2. Theoretical Background 4
• 2-1. Hate Speech 4
• 2-1-1. Concept of Hate Speech 4
• 2-1-2. Social Impact of Hate Speech 8
• 2-1-3. Types of Hate Speech in South Korea 10
• 2-2. Online Community 14
• 2-2-1. Concept of Online Community 14
• 2-2-2. Online Hate Speech 16
• 2-2-3. Hate Speech in Korean Online Community 19
• 2-3. Theories Explaining Hate Speech 24
• 2-4. Computational Methodology for Hate Speech Research 27
• 3. Data and Methodology 30
• 3-1. Data Collection 30
• 3-2. Data Preprocessing 32
• 3-3. Embedded Topic Model (ETM) 34
• 4. Analysis Results 42
• 4-1. Data Statistics 42
• 4-2. Topic Interpretation (Hate Topics) 43
• 4-3. Topic Interpretation (Hidden Topics) 49
• 4-4. Topic Weights 55
• 5. Conclusion 60
• References 65
• Appendix 81