잡음 민감성이 개선된 퍼지 주성분 분석 = An Improved Robust Fuzzy Principal Component Analysis

국문 초록 (Abstract)

주성분 분석(PCA)은 데이터의 차원을 줄이면서 최대의 데이터 변이를 보존하는 기법으로 차원 축소나 피처 추출을 위해 널리 사용되고 있다. 하지만 PCA는 잡음에 민감한 단점이 있으며, 이러한 잡음 민감성을 해결하기 위해 여러 가지 PCA 변형이 제안되었다. 그 중 robust fuzzy PCA(RF-PCA)는 퍼지 소속도를 사용하여 잡음의 영향을 효과적으로 줄일 수 있음이 입증되었다. 하지만 RF-PCA 역시 몇 가지 문제점이 있고, 수렴성이 그 중 하나이다. RF-PCA는 소속도와 주성분을 갱신할 때 서로 다른 목적 함수를 사용하므로 수렴 속도가 느리고 구해지는 해가 국부 최적 해임을 보장하지 않는다. 이 논문에서는 RF-PCA의 문제점을 해결하기 위해 하나의 목적 함수를 이용해 소속도와 주성분을 갱신할 수 있는 방법을 제안한다. 제안한 방법, RF-PCA2는 반복 최적화를 이용함으로써 국부 최적해에 수렴함을 보장하며, RF-PCA에 비해 빠른 수렴 속도를 가지고, 잡음 민감성이 줄어든다. 이러한 사실들은 실험 결과를 통해 확인할 수 있다.

다국어 초록 (Multilingual Abstract)

Principal component analysis (PCA) is a well-known method for dimension reduction while maintaining most of the variation in data. Although PCA has been applied to many areas successfully, it is sensitive to outliers. Several variants of PCA have been proposed to resolve the problem and, among the variants, robust fuzzy PCA (RF-PCA) demonstrated promising results. RF-PCA uses fuzzy memberships to reduce the noise sensitivity. However, there are also problems in RF-PCA and the convergence property is one of them. RF-PCA uses two different objective functions to update memberships and principal components, which is the main reason of the lack of convergence property. The difference between two functions also slows the convergence and deteriorates the solutions of RF-PCA. In this paper, a variant of RF-PCA, called RF-PCA2, is proposed. RF-PCA2 uses an integrated objective function both for memberships and principal components. By using alternating optimization, RF-PCA2 is guaranteed to converge on a local optimum. Furthermore, RF-PCA2 converges faster than RF-PCA and the solutions found are more similar to the desired solutions than those of RF-PCA. Experimental results also support this.

참고문헌 (Reference)

1 T. R. Cundari, "Robust fuzzy principal component analysis (FPCA). A comparative study concerning interaction of carbonhydrogen bonds with molybdenum-oxo bonds" 42 (42): 1363-1369, 2002

2 P. J. Huber, "Robust Statistics" Wiley- Interscience 1981

3 G. Heo, "RKF-PCA: Robust kernel fuzzy PCA" 22 (22): 642-650, 2009

4 I. T. Jolliffe, "Principal Component Analysis, 2nd Edition" Springer 2002

5 P. Rousseeuw, "Multivariate estimation with high breakdown point" Mathematical Statistics and Applications B 283-297, 1985

6 H. Ichihashi, "Gaussian mixture PDF approximation and fuzzy c-means clustering with entropy regularization" 217-221, 2000

7 T.-N. Yang, "Fuzzy auto-associative neural networks for principal component extraction of noisy data" 11 (11): 808-810, 2000

8 G. Heo, "Fuzzy SVM for noisy data: A robust membership calculation method" 431-436, 2009

9 J. C. Bezdekand, "Convergence of alternating optimization" 11 (11): 351-368, 2003

10 C. Lu, "Adaptive robust kernel PCA algorithm" 621-624, 2003

11 C.-D. Lu, "A robust kernel PCA algorithm" 3084-3087, 2004