텍스트 기반 마지막 층 재학습을 통한 이미지 분류기 편향 완화 = Debiasing General Image Classifiers through Text-based Last layer retraining|RISS 상세보기

다국어 초록 (Multilingual Abstract)

Recent advances in image classification have achieved impressive performance by leveraging large-scale datasets. However, it has been repeatedly pointed out that these models often learn spurious correlations inherent in the training data. In particular, when the prediction is made based on incidental visual attributes such as background, lighting, or gender rather than core visual features, model performance may degrade severely, especially for minority groups or in out-of-distribution settings.

To address this issue, recent studies have proposed Last-Layer Retraining (LLR)-based debiasing techniques. LLR retrains only the final linear classification layer using a small, group-balanced dataset, allowing effective debiasing without re-training the entire model. A representative example, DFR, demonstrated strong performance by using a small image dataset balanced across combinations of class labels and spurious attributes (i.e., “groups”).

However, these approaches face practical limitations. In order to construct a group-balanced dataset, one must annotate not only class labels but also spurious attributes for each image—a task known as group annotation. This process is costly, labor-intensive, and often infeasible in practice due to the rarity of minority group samples or the difficulty in clearly defining spurious features.

To overcome these limitations, we propose TLDR (Text-based Last-layer Retraining for Debiasing Image Classifiers), a novel approach that mitigates model bias without requiring additional image collection or group annotation. Instead of relying on images, TLDR uses large language models (LLMs) to generate a diverse set of textual expressions corresponding to class labels and spurious attributes. These texts are embedded into CLIP’s multimodal space and then projected into the feature space of a given image classifier through a closed-form linear projector.

Importantly, our method introduces a theoretical analysis of the modality gap between image and text embeddings and designs a linear projector that considers this gap to ensure effective alignment between modalities. We also implement a Validation of Embedding Alignment (VEA) procedure that filters generated texts based on their semantic alignment within both the CLIP and classifier embedding spaces, thereby improving the quality and robustness of the retraining data.

We validate our method on multiple benchmark datasets with inherent biases—Waterbirds, CelebA, and SpuCoAnimals. TLDR achieves performance comparable to or better than existing LLR-based methods, without any group annotation. Moreover, TLDR can be applied post hoc to already trained models, making it highly practical and scalable.

This study presents a novel framework that effectively debiases image classifiers using only text, without relying on costly annotated images. TLDR offers a promising direction for building fairer and more generalizable AI systems, especially in real-world domains such as medical imaging, satellite vision, and face recognition, where group annotations are difficult to obtain.

번역하기

국문 초록 (Abstract)

최근 이미지 분류기들은 대규모 데이터셋을 기반으로 높은 정확도를 달성하고 있으나 그 과정에서 데이터에 내재된 편향 (spurious correlation)을 학습하는 문제가 반복적으로 지적되어 왔다. 특히 특정 클래스 라벨과 부수적인 시각적 속성(예: 배경, 조명, 인물의 성별 등) 간의 우연한 상관관계에 기반하여 예측이 이루어질 경우 모델은 핵심적인 시각 정보보다는 이러한 부차적인 특성에 과도하게 의존하게 되며, 이로 인해 소수 집단(minority group)이나 도메인 분포가 다른 환경에서는 성능이 급격히 저하될 수 있다.

이러한 문제를 해결하기 위한 접근으로 최근에는 DFR과 같은 대표적 기법, Last-Layer Retraining(LLR) 기반의 편향 완화 기법들이 제안되었다. LLR은 기존 모델의 마지막 선형 분류층만을 재학습함으로써 전체 모델을 다시 훈련하지 않고도 편향을 완화할 수 있는 간결하고 실용적인 전략으로 주목받았다. 특히 '그룹'에 대해 균형 잡힌 소규모 이미지 데이터셋을 사용하여 해당 그룹별로 마지막 층을 재학습하는 방식으로 높은 성능을 입증한 바 있다.

그러나 이와 같은 접근 방식에는 실질적인 한계점이 존재한다. 그룹 균형 이미지 데이터를 수집하기 위해서는 단순한 클래스 라벨뿐만 아니라 편향 특성까지 포함하는 그룹 주석 처리 작업(group annotation)이 요구되며, 이는 상당한 수작업의 라벨링 비용, 자원, 그리고 전문성이 필요한 과정이다. 특히 현실에서는 마이너리티 그룹의 이미지가 매우 드물게 존재하거나, 편향 특성이 명확히 정의되지 않는 경우가 많아 이러한 그룹 어노테이션 기반의 접근은 실제 적용에 제약을 받는다.

이러한 문제의식을 바탕으로 본 논문에서는 추가적인 이미지 수집이나 어노테이션 없이도 이미지 분류기의 편향을 완화할 수 있는 새로운 방법인 TLDR(Text-based Last-layer Retraining for Debiasing Image Classifiers)을 제안한다. 본 방법은 이미지 기반의 그룹 균형 데이터셋을 구축하는 대신, 대규모 언어 모델(Large Language Models, LLM)을 활용하여 클래스 라벨과 편향 속성에 대응하는 다양한 텍스트 표현들을 생성하고, 이를 통해 텍스트 기반의 그룹 균형 데이터셋을 구성한다. 생성된 텍스트는 CLIP의 멀티모달 임베딩 공간에서 임베딩되며, 이후 일반 이미지 분류기의 임베딩 공간으로 linear projection 되어 마지막 층 재학습에 활용된다.

특히 본 논문에서는 modality gap이라 불리는 이미지-텍스트 임베딩 간의 임베딩 공간에서 정렬 차이를 이론적으로 분석하고, 해당 간극을 고려한 선형 closed-form projector를 제안하였다. 이를 통해 복잡한 최적화나 추가적인 파라미터 조정 없이도 효과적인 projection이 가능하며, 다양한 구조의 이미지 분류기에 쉽게 적용할 수 있다. 또한 생성된 텍스트가 실제 임베딩 공간에서 의미적으로 적절한지를 판별하기 위한 임베딩 정렬 유효성 검증(Validation of Embedding Alignment, VEA) 절차를 도입하여 재학습에 활용되는 텍스트 품질을 보장하였다.

실험은 Waterbirds, CelebA, SpuCoAnimals 등 편향이 존재하는 다양한 공개 벤치마크 데이터셋을 기반으로 진행되었으며, TLDR은 기존 기법인 LLR 기반 기법들보다 우수하거나 유사한 성능을 달성하였다. 특히 주목할 점은 TLDR이 따로 이미지 데이터에 대한 그룹 주석 작업 없이도 작동하며, 기존에 훈련된 분류기에 후처리 방식으로 적용 가능(post-hoc)하다는 점이다. 이로 인해 새로운 데이터 수집이나 전 모델 재학습 없이도 편향 완화가 가능해지며, 실질적인 적용 가능성이 매우 높다는 점에서 의의가 크다.

본 연구는 텍스트 생성과 멀티모달 임베딩을 활용한 새로운 접근을 통해 이미지 기반 모델의 편향 문제를 효과적으로 해결할 수 있음을 보여주었으며, 추후 의료 영상, 위성 이미지, 인물 인식 등 다양한 실제 환경에서의 적용 가능성을 제시한다. 또한 본 방법은 멀티모달 모델과 대규모 언어 모델이 보편화되는 흐름 속에서 더 일반화 가능하고 공정한 인공지능 시스템을 구축하는 데 중요한 기반을 제공할 수 있을 것으로 기대된다.

번역하기

최근 이미지 분류기들은 대규모 데이터셋을 기반으로 높은 정확도를 달성하고 있으나 그 과정에서 데이터에 내재된 편향 (spurious correlation)을 학습하는 문제가 반복적으로 지적되어 왔다. 특...

목차 (Table of Contents)