벌점화 다변량 분위수 회귀모형에 관한 비교연구

방성완 한국자료분석학회 2018 Journal of the Korean Data Analysis Society Vol.20 No.3

Quantile regression estimates a conditional quantile function of a response given explanatory variables and thus can provide a comprehensive information about relationship between the response and explanatory variables. Both the penalized univariate method ALQR and the penalized multivariate method ASMQR have been developed to select significant variables in model fitting. When estimating multiple quantile functions of several responses simultaneously, however, ALQR can not take advantage of the relationship between responses and ASMQR always select the same variables for all responses. In this paper, we propose two stage penalized multivariate quantile regression (TSMQR) by combining benefits of both ALQR and ASMQR. The simulation studies are conducted to illustrate the finite sample performance of the proposed methods. 분위수 회귀는 반응변수의 조건부 분위수 함수를 추정함으로써 반응변수와 설명변수의 관계에 대한 포괄적인 정보를 제공하며, 추정의 강건성과 유용성을 바탕으로 많은 분야에서 활용되고 있다. 회귀분석에서 설명변수의 선택은 중요한 문제이며, 분위수 회귀의 모형적합에서 유의한 설명변수를 선택하기 위하여 일변량 벌점화 추정법인 ALQR과 다변량 벌점화 추정법인 ASMQR이 개발되었다. 그러나 다변량 분위수 함수의 추정에서 ALQR 추정법은 여러 반응변수들의 상호 관련성을 모형적합에 이용하지 못하는 제한사항이 있으며, ASMQR 추정법은 모든 반응변수에 동일한 설명변수를 선택하는 단점이 있다. 따라서 본 논문에서는 다변량 분위수 함수의 첫 번째 추정에서 ASMQR 추정법을 이용하여 모든 반응변수에 유의하지 않은 설명변수들을 먼저 제거하고, 두 번째로 ALQR 추정법을 이용하여 개별 반응변수에 대한 회귀모형을 추정하는 2단계 벌점화 추정법(TSMQR)을 제안하였으며, 모의실험 및 실제자료 분석을 통해 제안한 추정법의 효율적인 성능과 유용성을 확인하였다.

비교차 제약식을 이용한 다중 선형 분위수 회귀모형에 관한 비교연구

방성완,신승준,Bang, Sungwan,Shin, Seung Jun 한국통계학회 2016 응용통계연구 Vol.29 No.5

Multiple quantile regression that simultaneously estimate several conditional quantiles of response given covariates can provide a comprehensive information about the relationship between the response and covariates. Some quantile estimates can cross if conditional quantiles are separately estimated; however, this violates the definition of the quantile. To tackle this issue, multiple quantile regression with non-crossing constraints have been developed. In this paper, we carry out a comparison study on several popular methods for non-crossing multiple linear quantile regression to provide practical guidance on its application. 분위수 회귀는 반응변수의 조건부 분위수 함수를 추정함으로써 반응변수와 예측변수의 관계에 대한 포괄적인 정보를 제공한다. 그러나 여러 개의 분위수 함수를 개별적으로 추정하게 되면 이들이 서로 교차할 가능성이 있으며, 이러한 분위수 함수의 교차(quantile crossing) 현상 분위수의 이론적 기본 특성에 위배된다. 본 논문에서는 다중 비교차 분위수 함수의 추정의 대표적인 방법들의 특성을 적합식과 계산 알고리즘의 측면에서 살펴보고, 모의실험과 실제 자료 분석을 통해 그 성능을 비교하였다.

불균형의 대용량 범주형 자료에 대한 분할-과대추출 정복 서포트 벡터 머신

방성완,김재오 한국통계학회 2022 응용통계연구 Vol.35 No.2

The support vector machine (SVM) has been successfully applied to various classification areas with a high level of classification accuracy. However, it is infeasible to use the SVM in analyzing massive data because of its significant computational problems. When analyzing imbalanced data with different class sizes, furthermore, the classification accuracy of SVM in minority class may drop significantly because its classifier could be biased toward the majority class. To overcome such a problem, we propose the DOC-SVM method, which uses divide-oversampling and conquers techniques. The proposed DOC-SVM divides the majority class into a few subsets and applies an oversampling technique to the minority class in order to produce the balanced subsets. And then the DOC-SVM obtains the final classifier by aggregating all SVM classifiers obtained from the balanced subsets. Simulation studies are presented to demonstrate the satisfactory performance of the proposed method. 일반적으로 support vector machine (SVM)은 높은 수준의 분류 정확도를 제공함으로써 다양한 분야의 분류분석에서 널리 사용되고 있다. 그러나 SVM은 최적화 계산식이 이차계획법(quadratic programming)으로 공식화되어 많은 계산 비용이 필요하므로 대용량 자료의 분류분석에는 그 사용이 제한된다. 또한 불균형 자료(imbalanced data)의 분류분석에서는 다수집단에 편향된 분류함수를 추정함으로써 대부분의 자료를 다수집단으로 분류하여 소수집단의 분류 정확도를 현저히 감소시키게 된다. 이러한 문제점들을 해결하기 위하여 본 논문에서는 다수집단을 분할(divide)하고, 소수집단을 과대추출(oversampling)하여 여러 분류함수들을 추정하고 이들을 통합(conquer)하는 DOC-SVM 분류기법을 제안한다. 제안한 DOC-SVM은 분할정복 알고리즘을 다수집단에 적용하여 SVM의 계산 효율을 향상시키고, 과대추출 알고리즘을 소수집단에 적용하여 SVM 분류함수의 편향을 줄이게 된다. 본 논문에서는 모의실험과 실제자료 분석을 통해 제안한 DOC-SVM의 효율적인 성능과 활용 가능성을 확인하였다.

패션브랜드 애착에 관한 연구

방성완,송종호,백은주,이현의 고려대학교 대학원 통계학과 2009 통계상담 Vol.사례 22 No.1

패션브랜드는 제품의 품질을 보증해 줄 뿐 아니라, 개인을 대변해주는 수단이 되어 가고 있다. 이런 흐름 속에서 본 연구는 패션브랜드 애착 구성 요인을 파악하고, 각 구성 요인이 소비자의 특성에 따라 차이가 있는지 살펴보고자 한다. 탐색적요인분석을 통해 패션브랜드 애착 구성 요인을 파악하고, 확증적 요인분석을 이용하여 타당성을 측정하였다. T-Test, ANOVA을 이용하여 각 구성 요인의 소비자 특성에 따른 차이를 측정하였다.

대용량 자료의 분석을 위한 분할정복 커널 분위수 회귀모형

방성완,김재오 한국통계학회 2020 응용통계연구 Vol.33 No.5

By estimating conditional quantile functions of the response, quantile regression (QR) can provide comprehensive information of the relationship between the response and the predictors. In addition, kernel quantile regression (KQR) estimates a nonlinear conditional quantile function in reproducing kernel Hilbert spaces generated by a positive definite kernel function. However, it is infeasible to use the KQR in analysing a massive data due to the limitations of computer primary memory. We propose a divide and conquer based KQR (DC-KQR) method to overcome such a limitation. The proposed DC-KQR divides the entire data into a few subsets, then applies the KQR onto each subsets and derives a final estimator by aggregating all results from subsets. Simulation studies are presented to demonstrate the satisfactory performance of the proposed method. 분위수 회귀모형은 반응변수의 조건부 분위수 함수를 추정함으로써 반응변수와 예측변수의 관계에 대한 포괄적인 정보를 제공한다. 특히 커널 분위수 회귀모형은 비선형 관계식을 고려하기 위하여 양정치 커널함수(kernel function)에 의해 만들어지는 재생 커널 힐버트 공간(reproducing kernel Hilbert space)에서 비선형 조건부 분위수 함수를 추정한다. 그러나 KQR은 이차계획법으로 공식화되어 많은 계산비용을 필요로 하므로 컴퓨터 메모리 능력의 제한으로 대용량 자료의 분석은 불가능하다. 이러한 문제점을 해결하기 위하여 본 논문에서는 분할정복(divide and conquer) 알고리즘을 활용한 KQR 추정법(DC-KQR)을 제안한다. DC-KQR은 먼저 전체 훈련자료를 몇 개의 부분집합으로 무작위로 분할(divide)한 후, 각각의 부분집합에 대하여 KQR 분위수 함수를 추정하고 이들의 산술 평균을 이용하여 최종적인 추정량으로 통합(conquer)하는 기법이다. 본 논문에서는 모의실험과 실제자료 분석을 통해 제안한 DC-KQR의 효율적인 성능과 활용 가능성을 확인하였다.

커널 제약식을 이용한 다중 비교차 분위수 함수의 순차적 추정법

방성완,전명식,조형준,Bang, Sungwan,Jhun, Myoungshic,Cho, HyungJun 한국통계학회 2013 응용통계연구 Vol.26 No.6

분위수 회귀는 반응변수의 조건부 분위수 함수를 추정함으로써 반응변수와 예측변수의 관계에 대한 포괄적인 정보를 제공한다. 그러나 여러 개의 분위수 함수를 개별적으로 추정하게 되면 이들이 서로 교차할 가능성이 있으며, 이러한 분위수 함수의 교차(quantile crossing) 현상 분위수의 이론적 기본 특성에 위배된다. 본 논문에서는 다중 비교차 분위수 함수의 추정을 위해 커널 계수에 제약식을 부여하는 순차적 추정법을 제안하였으며, 모의실험을 통해 제안한 방법론의 효율적인 성능과 유용성을 확인하였다. Quantile regression can estimate multiple conditional quantile functions of the response, and as a result, it provide comprehensive information of the relationship between the response and the predictors. However, when estimating several conditional quantile functions separately, two or more estimated quantile functions may cross or overlap and consequently violate the basic properties of quantiles. In this paper, we propose a new stepwise method to estimate multiple non-crossing quantile functions using constraints on the kernel coefficients. A simulation study are presented to demonstrate satisfactory performance of the proposed method.

불균형 자료의 분류분석을 위한 가우스 혼합 군집모형을 이용한 샘플링 기법

방성완(Sungwan Bang),김재오(Jaeoh Kim) 한국자료분석학회 2020 Journal of the Korean Data Analysis Society Vol.22 No.2

일반적으로 전통적인 분류분석 방법은 소수집단의 개체수가 다수집단의 개체수와 현격한 차이를 보이는 이항 범주형 불균형 자료(imbalanced data)의 분류분석에서 문제를 야기한다. 그것은 다수집단에 편향된 분류함수를 추정하므로서 대부분의 자료를 다수집단으로 분류하여 소수집단의 분류 정확도를 현저히 감소하는 현상이다. 이러한 문제를 효과적으로 해결하기 위하여 본 논문에서는 가우스 혼합 군집모형을 활용하여 불균형 자료의 분류분석을 위한 샘플링 기법을 제안한다. 이 방법은 소수집단에 대해 가우스 혼합분포를 추정하고 이를 기반으로 과대 추출하는 것이 핵심이다. 제안하는 방법을 SMOTE(synthetic minority over-sampling technique), ADASYN (adaptive synthetic sampling)과 같은 기존의 과대 추출 방법들과 다양한 상황 및 실제 예제에서 비교하여 그 우수성을 확인하였다. 특히, 불균형 자료 분석에서 중요하게 다루어지는 소수집단의 분류 정확도 측면에서 제안한 방법은 충분히 좋은 성능을 보였다. 본 연구에서는 이진 분류기로서 서포트 벡터 머신을 분류방법으로 사용하였으며, 전체 정확도, 민감도, 특이도 및 기하평균으로 성능을 평가하였다. When analyzing imbalanced data with different class sizes, the classification accuracy in minority class (sensitivity) may drop significantly because traditional classifiers are biased toward the majority class so that they classifies almost all observations to majority class. The purpose of this study is to propose a sampling method for classifying imbalanced data using the Gaussian mixture clustering model. We compared our proposed method with the existing over-sampling methods such as SMOTE (synthetic minority over-sampling technique) and ADASYN (adaptive synthetic sampling), and confirmed the excellence of the proposed method in various situations. In particular, the proposed method outperformed all other methods in terms of the classification accuracy of the minority class, which are generally important in the analysis of imbalanced data. In this study, a support vector machine method is adopted as a classification method and each method is evaluated by overall accuracy, sensitivity, specificity, and geometric mean.

대용량 자료의 분류분석을 위한 분할정복 서포터 벡터 머신

방성완(Sungwan Bang),한석원(Seokwon Han),김재오(Jaeoh Kim) 한국데이터정보과학회 2021 한국데이터정보과학회지 Vol.32 No.3

일반적으로 SVM (support vector machine)은 높은 수준의 분류 정확도와 유연성을 바탕으로 다양한 분야의 분류분석에서 널리 사용되고 있다. 그러나 SVM은 최적화 계산식이 이차계획법(quadratic programming)으로 공식화되어 많은 계산 비용을 필요로 한다. 따라서 컴퓨터 메모리 능력의 제한으로 SVM을 활용한 대용량 자료의 분류분석은 불가능하다. 이러한 문제점을 해결하기 위하여 본 논문에서는 분할정복 (divide and conquer) 알고리즘을 활용한 SVM(DC-SVM) 분류기법을 제안한다. DC-SVM은 먼저 전체 훈련자료를 몇 개의 부분집합으로 무작위로 분할 (divide)한 후, 각각의 부분집합에 대하여 SVM 분류함수를 추정하고, 이들의 결과를 통합 (conquer)하여 최종적인 분류함수를 추정하는 기법이다. 본 논문에서는 모의실험과 실제자료 분석을 통해 제안한 DC-SVM의 효율적인 성능과 활용 가능성을 확인하였다. The support vector machine (SVM) has been successfully applied to various classification areas with great flexibility and a high level of classification accuracy. However, it is infeasible to use the SVM in analyzing massive data because of its significant computational problems such as the limitation of computer primary memory. To overcome such a problem, we propose a divide and conquer based SVM (DC-SVM) method. The proposed DC-SVM divides the entire training data into a few subsets, and applies the SVM onto each subset to estimate its classifier. And then DC-SVM obtains the final classifier by aggregating all classifiers from subsets. Simulation studies are presented to demonstrate satisfactory performance of the proposed method.

순차 적응 최근접 이웃을 활용한 결측값 대치법

박소현,방성완,전명식,Park, So-Hyun,Bang, Sung-Wan,Jhun, Myoung-Shic 한국통계학회 2011 응용통계연구 Vol.24 No.6

비모수적 결측치 대치법인 k-최근접 이웃(k-Nearest Neighbors; KNN) 대치법을 개선한 적응 최근접 이웃(Adaptive Nearest Neighbor; ANN) 대치법과 순차 k-최근접 이웃(Sequential k-Nearest Neighbor; SKNN) 대치법의 장점들을 결합한 순차 적응 최근접 이웃(Sequential Adaptive Nearest Neighbor; SANN) 대치법을 제안하고자 한다. 이 방법은 ANN 대치법의 장점인 자료의 국소적 특징을 반영할 뿐 아니라, SKNN 대치법과 같이 결측값 대치가 이루어진 개체를 다음 결측값을 대치할 때 사용함으로써 효율성에 개선이 있을 것으로 기대한다. In this paper, we propose a Sequential Adaptive Nearest Neighbor(SANN) imputation method that combines the Adaptive Nearest Neighbor(ANN) method and the Sequential k-Nearest Neighbor(SKNN) method. When choosing the nearest neighbors of missing observations, the proposed SANN method takes the local feature of the missing observations into account as well as reutilizes the imputed observations in a sequential manner. By using a Monte Carlo study and a real data example, we demonstrate the characteristics of the SANN method and its potential performance.

우측중도절단된 와이블 분포를 이용한 소총 탄약 소요보급률 추정 연구

박재신,방성완 한국통계학회 2019 응용통계연구 Vol.32 No.1

Ammunition is an integral element of a weapon systems and in calculating fighting strength. The Korea Army utilizes the basic load (B/L) concept to supply ammunition smoothly. The required supply rate (RSR) is the basis of a B/L that is estimated from real combat data that includes a troop's mission and operation terrain. The current RSR is based on Korean War data and the sample mean has some problems in applications to modern combat. Therefore, this study used Korea Combat Training Center (KCTC) data that is similar to real combat to estimate rifle ammunition RSR. We used a quantile of truncated Weibull distribution to estimate rifle ammunition RSR considering that rifle ammunition consumption data in KCTC is truncated. As a result, we obtained a rifle ammunition RSR which covers most ammunition consumption by reflecting the individual consumption of rifle ammunition. 무기체계의 구성요소 중 하나인 탄약은 전투력 발휘에서 필수적이다. 원활한 탄약의 공급과 전투력 발휘를 위하여 군은 탄약의 기본휴대량을 개인별 임무와 화기에따라 정하여 활용중이다. 탄약의 기본휴대량 산출에 핵심이 되는 탄약의 소요보급률은 부대의 작전환경과 임무등을 고려한 실제 전투 자료에 기반하여 산출이 되어져야한다. 한국전쟁의 자료를 통해 얻어진 기존의 소요보급률은 현대의 전투 양상을 반영하지 못한다는 한계가 있어, 본 연구에서는 실전과 가장 유사한 훈련인 육군 과학화 훈련단(Korea Combat Training Center; KCTC)의 소총 탄약 소모량 자료를 통하여 소총 탄약의 소요보급률을 추정하였다. KCTC 소총 소모량 자료가 중도 절단되었던 점을 고려하여 우측중도절단된 와이블 분포를 추정하고 상위백분위수로 탄약의 소요보급률을 추정하였다. 그 결과 개인별 탄약 소모량을 반영하여 대부분의 전투원들이 추가 보급없이 전투를 수행할 수 있는 소요보급률을 추정할 수 있었다.