생성 모델링을 위한 고차원 다봉분포의 밀도 추정 : 변이형 오토인코더와 군집 기반 잠재 사후 확률밀도 모델링 = Density estimation of sparse, multimodal high-dimensional distributions for generative modeling : variational autoencoders with cluster-based latent posterior density modeling

다국어 초록 (Multilingual Abstract)

This dissertation addresses generative modeling as the problem of density estimation for sparse, multimodal high-dimensional data distributions. Real-world data such as images and text occupy only a small subset of the ambient space and often exhibit multiple separated modes, making direct high-dimensional density estimation challenging. While diffusion-based models currently provide state-of-the-art sample quality and mode coverage, they rely on score-based training and iterative reverse-process sampling, which incurs substantial computational cost. Motivated by this limitation, we propose a two-stage generative framework that aims to achieve competitive generation quality with significantly reduced sampling cost.
In Stage 1, we train a variational autoencoder (VAE) to obtain a continuous latent representation that preserves the structural characteristics of observed data. Importantly, this stage is not intended to enforce a fixed simple prior as the final generative prior; instead, it is designed to construct a latent space that is suitable for stable decoding and meaningful sampling. In Stage 2, we explicitly estimate the latent posterior density (i.e., the aggregated posterior) using a cluster-based probabilistic density model, such as a full-covariance Gaussian mixture model (GMM). This step directly addresses the question of where and how frequently to sample in latent space, thereby modeling multimodality in a principled manner. Generation is then performed by sampling from the estimated latent density and passing the sample through the deterministic decoder once, enabling one-pass generation without iterative score-based sampling. Moreover, conditioning on mixture components naturally supports mode-wise generation and interpretability.
We evaluate the proposed approach primarily on CelebA-HQ 256×256 and report results using multiple complementary metrics, including FID, Inception Score, Density/Coverage, and CLIP-MMD. Empirically, our method achieves competitive distributional similarity compared to latent diffusion variants while substantially improving sampling efficiency due to its one-pass decoding. We further demonstrate the practicality of latent density estimation via an efficient GPU-based GMM-EM implementation, and provide qualitative analyses such as cluster-wise sample inspection and covariance/PCA-based latent manipulation, highlighting interpretability and controllability at the mode level.
In summary, this dissertation presents a structured latent-space approach to sparse, multimodal density estimation for generative modeling. By separating continuous latent representation learning from explicit latent density estimation, the proposed framework enables accurate latent distribution modeling without score-based sampling, offering a favorable trade-off between generation quality and computational cost.

국문 초록 (Abstract)

본 논문은 생성모델링을 “고차원 희소·다봉(multimodal) 데이터 분포의 밀도 추정” 문제로 정식화하고, 매니폴드 가설에 기반하여 이를 저차원 잠재공간의 분포 추정과 고차원 매핑 학습의 결합 문제로 환원하는 관점에서 새로운 생성 방법론을 제안한다. 실제 이미지·텍스트와 같은 고차원 데이터는 관측 공간 전체에 걸쳐 나타나지 않고 극히 일부 영역에만 존재하며, 그 내부에서도 여러 모드로 분리된 분포를 갖는다. 이러한 구조는 차원의 저주로 인해 전통적 확률통계 기반 밀도 추정이 어려움을 겪게 하고, 최근 가장 강력한 생성모델로 평가되는 확산(Diffusion) 계열은 높은 생성 품질을 제공하는 반면 학습 및 샘플링이 반복적 역과정에 의존하여 계산 비용이 크다는 한계를 갖는다.
본 논문은 이러한 한계를 해결하기 위해 생성 과정을 두 단계로 분리한다. 첫째, 변이형 오토인코더(VAE)를 이용하여 관측 데이터의 구조를 보존하는 연속적 잠재공간을 학습한다. 이 단계의 목적은 고정된 단순 prior를 그대로 생성 prior로 사용하는 것이 아니라, 잠재공간이 생성에 유효한 연속 표현 공간이 되도록 구성하는 데 있다. 둘째, 학습된 잠재공간에서 잠재사후(aggregated posterior)에 기반한 군집 기반 확률밀도 모델(예: full-covariance GMM)을 적합하여 잠재공간의 다봉 구조를 명시적으로 추정한다. 이를 통해 “어디를 얼마나 자주 샘플링할 것인가”를 잠재공간 밀도 추정 문제로 분리하여 해결하며, 생성은 추정된 잠재밀도에서 샘플링한 뒤 디코더를 1회 통과시키는 1-pass 생성으로 수행된다. 또한 혼합 성분에 조건화한 샘플링이 가능하므로 모드 기반 생성 및 모드 단위 해석 가능성을 제공한다.
실험은 CelebA-HQ 256×256 얼굴 이미지 데이터셋을 중심으로 수행되었으며, FID, IS, Density/Coverage, CLIP-MMD 등 복합 지표를 통해 생성 품질과 다양성을 평가하였다. 결과적으로 제안 방법은 저차원 잠재공간에서 분포를 학습하는 Latent Diffusion 계열과 비교하여 경쟁력 있는 분포 유사성을 보였고, 특히 1-pass 생성 구조로 인해 반복적 역과정 샘플링을 필요로 하는 확산 계열 대비 샘플링 계산 비용에서 유의미한 우위를 확인하였다. 또한 GPU 기반 GMM-EM 구현을 통해 큰 혼합 성분 수에서도 실용적 시간 안에 잠재밀도 추정이 가능함을 보였으며, 클러스터별 샘플 분석 및 공분산 기반 PCA 조작 실험을 통해 모드 구조의 해석 가능성과 제어 가능성을 추가로 제시하였다.
요약하면, 본 논문은 고차원 희소·다봉 분포 추정 문제를 잠재공간 관점에서 정식화하고, 연속 잠재공간 확보와 잠재밀도 추정을 분리한 두 단계 접근을 통해 score 없이도 잠재분포를 정밀하게 근사하며, 빠른 샘플링과 경쟁력 있는 생성 성능을 동시에 달성할 수 있음을 보였다.

목차 (Table of Contents)

• 목차 ⅰ
• 그림 목차 ⅴ
• 표 목차 ⅶ
• Abstract ⅷ
• 1. 서론 1
• 1.1 생성모델과 분포 학습의 의미 1
• 1.2 생성모델의 응용 확장과 ‘빠른 샘플링’ 요구 2
• 1.3 핵심 문제: 고차원 희소·다봉 분포의 밀도 추정 3
• 1.4 문제의식: 잠재공간의 ‘연속성 확보’와 ‘밀도추정의 명시화’ 4
• 1.5 연구 기여(Contributions) 6
• 1.6 논문 구성 6
• 2. 관련 연구 7
• 2.1 에너지 기반 모델(Energy-Based Models) 8
• 2.1.1 Hopfield 네트워크(1982): 에너지 최소화와 다중 안정점 8
• 2.1.2 Boltzmann Machine(1985): 확률적 EBM의 정식화 8
• 2.1.3 Contrastive Divergence(2002)와 Deep Boltzmann 계열 9
• 2.2 VAE 및 잠재변수 생성모델: 연속 잠재공간과 잠재분포 밀도추정 문제 10
• 2.2.1 VAE의 핵심 수식(ELBO)과 표기 설명 10
• 2.2.2 의미(잠재공간 환원) 11
• 2.2.3 한계(잠재분포 정밀 추정) 11
• 2.2.4 VAE 확장 흐름 12
• 2.3 GAN: 암묵적 분포 정합과 모드 커버리지 13
• 2.4 Normalizing Flows: 정확한 likelihood와 계산 제약 14
• 2.5 Autoregressive 모델 15
• 2.6 Score-based 모델 15
• 2.7 Diffusion 모델 16
• 2.8 Latent Diffusion 모델(LDM) 17
• 2.9 관련 연구 결론 19
• 3. 제안 방법: 변이형 오토인코더와 군집 기반 잠재사후 확률밀도 모델링 20
• 3.1 Notation 22
• 3.2 문제 설정: 고차원 다봉분포의 밀도 추정의 환원 25
• 3.2.1 고차원 희소·다봉 분포의 구조적 해석 25
• 3.2.2 잠재 생성 가정과 pushforward 25
• 3.2.3 support와 실질적 가능 영역의 구분 26
• 3.2.4 관측 데이터셋 기반 목표 27
• 3.3 제안 방법 28
• 3.3.1 Step 1 28
• 3.3.2 Step 2 30
• 3.3.3 샘플링 절차 34
• 3.4 전체 방법의 정리 35
• 3.5 알고리즘 요약 36
• 3.6 VAE 및 Diffusion 생성모델과의 차이점 37
• 4. 실험 38
• 4.1 데이터셋 및 실험 개요 38
• 4.1.1 데이터셋 38
• 4.1.2 실험 구성 39
• 4.2 생성 성능 평가 지표 40
• 4.3 제안 방법 구현 및 실험 조건 42
• 4.3.1 Step 1 42
• 4.3.2 Step 2 44
• 4.4 Main Part 1 — Step 1 검증 44
• 4.5 Main Part 2 — Step 2 검증 48
• 4.6 Main Part 3 — VAE 계열 비교 50
• 4.6.1 정량 비교(FID) 51
• 4.6.2 정성 비교 I 51
• 4.6.3 정성 비교 II 53
• 4.6.4 소결 54
• 4.7 Main Part 4 — 고차원 Diffusion 비교 54
• 4.7.1 샘플링 계열 개요 55
• 4.7.2 생성 품질 56
• 4.7.3 샘플링 시간 58
• 4.8 Main Part 5 — Latent Diffusion 비교 59
• 4.8.1 생성 품질 59
• 4.8.2 학습/샘플링 비용 60
• 4.9 Main Part 6 — 클러스터 분석/조작 61
• 4.10 Main Part 7 — 절제실험 68
• 4.11 결론 요약 71
• 5. 결론 72
• 5.1 연구 내용 및 기여 요약 72
• 5.2 한계점 정리 73
• 5.3 향후 연구 방향 75
• 참고문헌 77
• Abstract 83