딥러닝을 활용한 GAN 기반 암세포 이미지 분류 및 모델 성능 비교

국문 초록 (Abstract)

본 연구에서는 세포 현미경 이미지의 데이터 부족 문제를 해결하기 위해 생성적 적대 신경망 (Generative Adversarial Network, GAN)을 활용하여 암세포 합성 이미지를 생성하고, 이러한 합성 데이터가 분류 모델 학습에 활용될 수 있는지를 체계적으로 검증하였다. 이를 위해 HeLa, NCI-H1299, Huh7, MCF-7, PC-3 다섯 종류의 세포 이미지를 기반으로 DCGAN, LSGAN, WGAN, WGAN-GP 네 가지 생성 모델을 적용하여 클래스별 합성 이미지를 생성하였다. 이미지 생성 조건은 데이터 분포 복잡성이 가장 높은 HeLa 세포를 기준으로 해상도와 잠재 벡터 차원을 사전 결정하여 일관된 실험 환경을 구축하였다.
생성된 이미지는 FID, LPIPS, Precision, Recall 지표와 PCA·t-SNE 기반 분포 시각화를 통해 품질을 평가하였으며, Radar Chart 기반의 면적 비교를 통해 각 세포주에서 가장 적합한 GAN 모델을 선정하였다. 이후 선정된 GAN 모델로 생성한 합성 이미지를 실제 이미지와 다양한 비율로 조합하여 CNN 기반 분류 모델 (ResNet50, InceptionV3, DenseNet121, MobileNetV2, EfficientNetB2)에 적용해 분류 성능 변화를 분석하였다. 또한 GAN 기반 합성 이미지와 전통적인 데이터 증강 방식 (수평·수직 반전)을 비교하여 실제 분류 성능에 미치는 영향을 함께 검토하였다.
본 연구는 세포 현미경 영상에서 GAN 기반 합성 데이터를 분류 모델 학습에 활용하는 가능성을 정량적·시각적으로 분석한 것으로, 실험 데이터 확보가 어려운 환경에서 생성형 모델을 통한 데이터 확장의 실질적 활용 가능성을 제시한다.

목차 (Table of Contents)

• In this study, we aimed to address the data scarcity problem in cell microscopy-based image analysis by generating synthetic cancer cell images using Generative Adversarial Networks (GANs) and evaluating their applicability to downstream classification tasks. Four GAN variants—DCGAN, LSGAN, WGAN, and WGAN-GP—were trained on five cancer cell lines (HeLa, NCI-H1299, Huh7, MCF-7, and PC-3) to generate class-specific synthetic single-cell images. The image resolution and latent vector dimensionality were predetermined based on the HeLa dataset, which exhibited the highest morphological complexity, ensuring a consistent and controlled experimental setting.
• The generated images were evaluated using quantitative similarity metrics (FID, LPIPS, Precision, Recall) and visual distribution analyses (PCA and t-SNE). A radar-chart–based area comparison was further employed to identify the optimal GAN model for each cell line. The selected synthetic images were then mixed with real images at various ratios and used to train multiple CNN-based classification models, including ResNet50, DenseNet121, InceptionV3, EfficientNetB2, and MobileNetV2, in order to assess performance changes under different real–synthetic compositions. Traditional augmentation techniques were also included as a baseline to compare the practical benefits of GAN-generated images.
• Overall, this study provides a systematic evaluation of GAN-based synthetic data in cell microscopy-based imaging, demonstrating its potential as a complementary data source in scenarios where real image acquisition is limited. The findings highlight the feasibility of integrating generative models into cell-image analysis pipelines to enhance robustness and performance under constrained data conditions.