인공지능 거버넌스 시스템 : 모니터링 및 구현 연구

다국어 초록 (Multilingual Abstract)

As the spread of information through the Internet accelerates, more and more people are exposed to information through Internet portals, and the impact of comments is increasing day by day. Comments are used as a means to express readers' opinions in relation to posts, but malicious comments such as slander or gossip against others are becoming a social problem. To solve this problem, Naver uses an artificial intelligence called Cleanbot to block malicious comments, but due to the nature of the comments, they change rapidly and may include bias because they contain social issues. This study is an artificial intelligence governance study, which is conducted in two stages, a monitoring study and an implementation study. In the monitoring study, we check the performance of the cleanbot, and in the implementation study, we implement an alternative model of the cleanbot and compare the performance. In the implementation study, a malicious comment blocking model was implemented using a convolutional neural network, gated recurrent unit, and attention as technical mechanisms, and it was confirmed that the performance was higher than before.

목차 (Table of Contents)

• Ⅰ. 서론 1
• 1. 악성 댓글에 대한 사회적 이슈 1
• 2. 악성 댓글 대처 동향 5
• 2.1 네이버 클린봇 6
• 2.2 심심이 나쁜말점수 API 7
• 2.3 뉴욕타임스 모더레이터 8
• 3. 인공지능 거버넌스 8
• 3.1 인공지능 거버넌스의 정의 8
• 3.2 인공지능 거버넌스 사례 10
• 3.2.1 IBM AI Fairness 360 10
• 3.2.2 마이크로소프트 Fairlearn 10
• Ⅱ. 이론적 배경 11
• 1. 워드투벡터 11
• 1.1 skip-gram의 정의 12
• 1.2 skip-gram의 학습 12
• 1.2.1 Subsampling frequent words 13
• 1.2.2 Negative sampling 13
• 2. 장단기 메모리 14
• 2.1 순환 신경망의 정의 및 구조 14
• 2.2 장단기 메모리의 정의 및 구조 16
• 3. 어텐션 21
• 3.1 시퀀스 투 시퀀스 21
• 3.2 어텐션 메커니즘 22
• Ⅲ. 선행 연구 25
• 1. 문장 분류 25
• 1.1 합성곱 신경망 분류 기법을 활용한 문장 분류 25
• 1.2 문자 단위 임베딩 26
• 1.3 어텐션 메커니즘을 활용한 문장 분류 26
• 1.4 짧은 텍스트 분류 27
• 2. 댓글 연구 28
• 2.1 감성분석과 서포트 벡터 머신을 이용한 페이스북 악성 댓글 분류 28
• 2.2 악성 댓글 분류 모델의 성능 비교 29
• 3. 모니터링 연구 29
• 3.1 유전 알고리즘을 활용한 CERTIFAI 29
• Ⅳ. 인공지능 거버넌스 연구 30
• 1. 모니터링 연구 30
• 1.1 네이버 뉴스의 댓글 수집 30
• 1.2 수집된 댓글의 데이터 라벨링 31
• 1.3 평가자 간의 신뢰도 및 타당성 33
• 1.3.1 Fleiss’s Kappa 33
• 1.3.2 Pearson 상관계수 34
• 1.4 모델 안정성 35
• 1.5 선정적인 표현 38
• 2. 구현 연구 39
• 2.1 워드 임베딩 39
• 2.2 텍스트 전처리 39
• 2.3 모델 아케텍처 40
• 2.4 모델 성능 비교 43
• Ⅴ. 요약 및 결론 46
• Ⅵ. 참고 문헌 48