Byzantine 연합학습 기반 하이브리드 이상탐지 모델의 모바일 게임 API적용 연구

국문 초록 (Abstract)

본 연구는 모바일 게임 API 환경에서 발생하는 비정상 행위를 효과적으로 탐지하기 위해 Byzantine 연합학습과 하이브리드 이상탐지 모델을 결합한 프레임워크를 제안한다. 기
존 중앙집중식 API 보안 시스템은 프라이버시 침해, 확장성 제약, 새로운 공격에 대한 대응 한계 등의 문제를 갖고 있다. 이를 해결하기 위해 본 연구에서는 LSTM-Autoencoder와 Isolation Forest를 결합한 경량 하이브리드 모델을 클라이언트 단에 배치하고, 연합학습 기반의 분산 학습 구조를 적용하였다. 특히 연합학습 환경에서의 주요 위협인Byzantine 공격을 대응하기 위해 신뢰도 기반 동적 가중치 조정과 다중 방어 기법(Trimmed Mean, Coordinate-wise Median, FoolsGold)을 통합한 강건한 집계 메커니즘을설계하였다. 게임이론 기반의 협력 메커니즘을 통해 고품질 클라이언트에 대한 인센티브제공, 악의적 참여자에 대한 페널티 적용, 불완전 정보 환경에서의 안정적인 모델 수렴을달성하였다. 실험 결과, 제안된 모델은 극한의 Byzantine 공격 환경(클라이언트 60% 공격률)에서도 F1-score 0.9271, AUC-ROC 0.9299의 높은 탐지 성능을 유지하였으며, 평균 지연 18.2ms와 파라미터 전송 기반의 효율적인 통신을 통해 실제 게임 서비스에 적용 가능
한 수준의 실시간성을 확보하였다. 본 연구는 데이터 보안성과 탐지 정확도를 동시에 고려한 차세대 API 이상탐지 패러다임으로서 연합학습의 실무적 가치를 입증한다

목차 (Table of Contents)

• 1. 서론 1
• 1.1 연구 배경 및 동향 1
• 1.2 문제 정의 및 연구 필요성 3
• 1.3 제안 방향 및 연구 목적 4
• 2. 본론 5
• 2.1 이상 탐지 기법 연구 5
• 2.1.1 전통적 방법론(통계 기반 및 규칙 기반 기법) 5
• 2.1.2 머신러닝 기반 접근법 5
• 2.1.3 딥러닝 기반 LSTM-AE 이상 탐지 6
• 2.1.4 하이브리드 기반 이상 탐지 7
• 2.1.5 평가 지표 및 성능 기준 7
• 2.1.6 API 보안 특화 이상 탐지 기법 7
• 2.1.7 기존 연구의 한계 8
• 2.2 연합학습(Federated Learning) 개요 8
• 2.2.1 연합학습 기본 동작 구조 9
• 2.2.2 FedAvg 알고리즘 9
• 2.2.3 연합학습의 장점 10
• 2.2.4 연합학습의 한계 10
• 2.2.5 실제 적용 사례 및 필요성 11
• 2.3 Byzantine 공격 개요 12
• 2.3.1 Byzantine 공격의 특성 12
• 2.3.2 대표적인 Byzantine 공격 유형 12
• 2.3.3 공격 시나리오의 실제 위험성 13
• 2.3.4 Byzantine 방어 연구의 필요성 14
• 2.4 게임이론 기반 연합학습 협력 메커니즘 14
• 2.4.1 연합학습에서 게임이론이 필요한 이유 15
• 2.4.2 주요 게임이론 모델의 연합학습 적용 15
• 2.4.3 불완전 정보 환경에서의 베이지안 게임 적용 16
• 2.4.4 Byzantine 공격 방어를 위한 게임 이론적 전략 17
• 2.4.5 API 보안 환경에서의 적용 고려사항 18
• 3. 제안하는 시스템 구조 19
• 3.1 시스템 아키텍처 개요 19
• 3.1.1 전체 구조 20
• 3.2 하이브리드 모델 구성 22
• 3.2.1 하이브리드 이상 탐지 모델 구성 22
• 3.2.2 LSTM-AE 기반 시계열 재구성 모델 22
• 3.2.3 Isolation Forest 기반 분포 기반 탐지 모델 23
• 3.2.4 하이브리드 LocalScore 계산 방식 23
• 3.3 신뢰도 평가 및 Byzantine 방어 기법 24
• 3.3.1 클라이언트 신뢰도 평가 개념 25
• 3.3.2 업데이트 벡터 기반 신뢰도 계산 방식 25
• 3.3.3 Byzantine 공격 유형의 정의 26
• 3.3.4 다중 Byzantine 방어 전략 설계 27
• 3.3.5 신뢰도 기반 최종 집계 28
• 4. 실험 설계 및 구현 29
• 4.1 실험환경 설정 29
• 4.2 데이터셋 구성 29
• 4.3 모델 학습 구성 31
• 4.3.1 LSTM-AE 학습 설정 31
• 4.3.2 Isolation Forest 학습 설정 32
• 4.4 연합학습 실험 프로토콜 32
• 4.4.1 연합학습 라운드 동적 정의 33
• 4.4.2 로컬 업데이트 전송 및 신뢰도 계산 33
• 4.4.3 Byzantine 공격 시뮬레이션 설정 33
• 4.5 성능 평가 지표 및 절차 34
• 5. 실험 결과 및 분석 36
• 5.1 라운드 진행에 따른 탐지 성능 변화 36
• 5.2 Byzantine 공격이 모델 성능에 미치는 영향 분석 37
• 5.3 다중 Byzantine 방어 기법의 효과 분석 37
• 5.4 예측 지연 시간 및 통신 비용 분석 39
• 5.5 제안된 모델 vs Baseline 모델 대조 실험 40
• 5.5.1 실험 설계 40
• 5.5.2 최종 성능 비교 40
• 5.5.3 Byzantine 공격 환경에서의 안정성 분석 41
• 5.6 종합 분석 및 요약 42
• 6. 결론 44
• [참고문헌] 46
• (초록) 47
• (Abstract) 48