Non-IID 환경에서의 정확도 향상을 위한 지능형 연합학습 모델 = Intelligent Federated Learning Model for Improving Accuracy in Non-IID Environments|RISS 상세보기

다국어 초록 (Multilingual Abstract)

The rapid advancement of digital technologies and the widespread adoption of the Internet of Things (IoT) and smart devices have led to a continuous increase in the generation of sensitive data containing personal information. To utilize such sensitive data for artificial intelligence training, conventional centralized learning approaches inevitably require transmitting data directly to a central server, which raises issues such as privacy infringement risks and increased data management costs. To overcome these limitations, Federated Learning has emerged as a paradigm that enables the training of a global model without sharing raw data externally. However, since data in federated learning are stored locally on each client and are not shared, real-world environments typically exhibit Non-Independent and Identically Distributed (Non-IID) data distributions, which in turn cause performance degradation of the global model.
In this study, to address these challenges, we clearly define two structural limitations of the existing federated learning algorithm, FedAvg (Federated Averaging), and propose a new learning strategy to overcome them. First, the conventional approach of randomly selecting participating clients fails to consider the quality and contribution of client data, resulting in inefficiency. To address this, we design an intelligent client selection strategy based on reinforcement learning that incorporates data diversity, recent local loss, and contribution scores. Second, the aggregation method in FedAvg, which computes a simple weighted average proportional to the amount of client data, is insufficient to correct Non-IID bias. Therefore, we propose an exploratory aggregation method that applies the Particle Swarm Optimization (PSO) algorithm to search for an optimized global model. Through this approach, we aim to mitigate inter-client data bias in Non-IID environments and achieve more stable and higher accuracy.
Experimental results on three datasets—CIFAR-10, CIFAR-100, and FEMNIST—demonstrate that the proposed federated learning model based on reinforcement learning and PSO consistently outperforms the conventional FedAvg algorithm across all datasets. In particular, on the FEMNIST dataset configured for Non-IID experiments, where each client possesses fewer than five classes and the data distribution is extremely skewed, FedAvg fails to converge altogether, whereas the proposed algorithm converges stably, achieving a maximum accuracy of 68.4%. Furthermore, on CIFAR-10 and CIFAR-100, the proposed method achieves accuracy improvements of up to 24.1% compared to FedAvg. These results indicate that the two proposed enhancement strategies—reinforcement-learning-based client selection and PSO-based optimal model search aggregation—are effective in significantly improving the performance of federated learning under Non-IID conditions.

번역하기

국문 초록 (Abstract)

디지털 기술이 빠르게 발전하고 사물인터넷 및 스마트 기기의 보급이 확대됨에 따라 개인 정보를 포함한 민감한 데이터의 생성량이 지속적으로 증가하고 있다. 이러한 민감한 데이터를 인공지능 학습에 활용하기 위해서는 기존의 중앙집중형 학습 방식처럼 데이터를 중앙 서버로 직접 전송하는 과정이 불가피하나, 이는 개인정보 침해 위험과 데이터 관리 비용 증가 등의 문제를 초래한다. 이러한 한계를 극복하기 위해 데이터를 외부로 공유하지 않고도 글로벌 모델을 학습할 수 있는 연합학습(Federated Learning)이 등장하였다. 그러나 연합학습은 데이터가 각 클라이언트에 저장되고, 외부로 공유되지 않기 때문에 실제 환경에서는 대부분 Non-IID (Non-Independent and Identically Distributed) 분포를 나타내며, 이로 인해 글로벌 모델의 성능 저하가 발생하는 문제가 존재한다.
본 연구에서는 이러한 문제를 해결하기 위해 기존 연합학습 알고리즘인 FedAvg (Federated Averaging)가 가지고 있는 두 가지 구조적 한계를 명확히 정의하고, 이를 개선하기 위한 새로운 학습 전략을 제안한다. 첫째, 연합학습에 참여할 클라이언트를 무작위로 선택하는 기존 방식은 클라이언트의 데이터 품질과 기여도를 고려하지 못하는 비효율적인 방식이므로, 강화학습 기반의 지능형 클라이언트 선택 기법을 통해 데이터 다양성, 최근 로컬 손실, 기여도 점수를 반영한 선택 전략을 설계한다. 둘째, FedAvg에서 단순히 클라이언트 데이터 수에 비례하여 단순평균 계산을 통해 글로벌 모델로 집계하는 기존 집계 방식은 Non-IID 편향을 충분히 보정하지 못한다. 따라서 본 연구에서는 PSO (Particle Swarm Optimization) 알고리즘을 적용하여 글로벌 모델을 최적화 탐색하는 탐색 집계 방식을 제안한다. 이를 통해 Non-IID 환경에서 클라이언트 간 데이터 편향을 완화하고, 보다 안정적이노 높은 정확도를 달성하는 것을 목표로 한다.
CIFAR-10, CIFAR-100, FEMNIST 총 세 가지 데이터셋을 활용한 실험 결과, 본 연구에서 제안하는 강화학습 및 PSO 기반 연합학습 모델은 모든 데이터셋에서 기존 FedAvg 알고리즘보다 우수한 성능을 보였다. 특히 Non-IID 실험을 위해 구성된 FEMNIST 데이터셋에서, 각 클라이언트가 보유한 클래스의 개수가 5개 미만으로 극도로 편향된 환경에서는 FedAvg 알고리즘이 전혀 수렴하지 못하는 반면, 제안하는 알고리즘은 최대 정확도 68.4%까지 안정적으로 수렴하였다. 또한 CIFAR-10 및 CIFAR-100에서도 FedAvg 대비 최대 24.1% 수준의 정확도 향상을 확인할 수 있었다. 이러한 결과는 본 연구의 두 가지 개선 전략인 강화학습 기반 클라이언트 선택과 PSO 기반 최적 모델 탐색 집계 방식이 Non-IID 환경에서 연합학습의 성능을 의미 있게 향상시키는 데 효과적임을 보여준다.

번역하기

디지털 기술이 빠르게 발전하고 사물인터넷 및 스마트 기기의 보급이 확대됨에 따라 개인 정보를 포함한 민감한 데이터의 생성량이 지속적으로 증가하고 있다. 이러한 민감한 데이터를 인...

목차 (Table of Contents)