복합패널 데이터에 기초한 최소제곱 패널회귀추정량의 설계기반 성질

김규성,Kim, Kyu-Seong 한국통계학회 2010 Communications for statistical applications and me Vol.17 No.4

We investigated design-based properties of the ordinary least square estimator(OLSE) and the weighted least square estimator(WLSE) in a panel regression model. Given a complex data we derive the magnitude of the design-based bias of two estimators and show that the bias of WLSE is smaller than that of OLSE. We also conducted a simulation study using Korean welfare panel data in order to compare design-based properties of two estimators numerically. In the study we found the followings. First, the relative bias of OLSE is nearly two times larger than that of WLSE and the bias ratio of OLSE is greater than that of WLSE. Also the relative bias of OLSE remains steady but that of WLSE becomes smaller as the sample size increases. Next, both the variance and mean square error(MSE) of two estimators decrease when the sample size increases. Also there is a tendency that the proportion of squared bias in MSE of OLSE increases as the sample size increase, but that of WLSE decreases. Finally, the variance of OLSE is smaller than that of WLSE in almost all cases and the MSE of OLSE is smaller in many cases. However, the number of cases of larger MSE of OLSE increases when the sample size increases. 본 논문에서는 패널회귀모형에서 회귀계수의 일반최소제곱추정량과 가중최소제곱추정량의 설계기반 성질을 살펴보았다. 복합표본이 주어진 경우에 두 추정량의 설계편향을 구하여 가중최소제곱추정량의 설계편향의 크기가 더 작음을 보였다. 또한 한국복지패널 데이터를 대상으로 모의실험을 실시하여 다음의 결과를 얻었다. 첫째, 일반최소제곱추정치의 상대편향이 가중최소제곱추정치의 상대편향보다 약 2배 정도 크게 나타났고 일반최소제곱추정치의 편향비가 더 크게 나타났다. 그리고 표본수가 증가하면 일반최소제곱 추정치의 상대편향은 완만하게 줄어든 반면 가중최소제곱추정치의 상대편향은 급속도로 줄어들었다. 둘째, 표본수가 증가하면 일반초소제곱추정치와 가중최소제곱추정치의 분산과 평균제곱오차는 모두 줄어들였다. 그러나 평균제곱오차에서 차지하는 편향제곱의 비율은 표본수가 증가할 때 일반최소제곱추정치에서는 증가하는 반면 가중최소제곱추정치에서는 감소하는 경향이 나타났다. 마지막으로 거의 모든 경우에 일반최소제곱추정치의 분산이 가중최소제곱추정치의 분산보다 작게 나타났다. 그리고 많은 경우에 일반최소제곱추정치의 평균제곱오차가 가중최소제곱추정치의 평균제곱오차보다 작게 나타났다. 그러나 표본수가 증가할수록 일반최소제곱추정치의 평균제곱오차가 가중최소제곱추정치의 평균제곱오차보다 커지는 경우가 늘어났다.

연구논문 : 층화이단표집 데이터에 기초한 회귀계수의 설계기반분산추정량

김규성 ( Kyu Seong Kim ) 한국조사연구학회 2014 조사연구 Vol.15 No.1

본 연구에서는 표본조사 데이터를 이용한 회귀분석에서 회귀계수의 분산추정 문제를 다루었다. 표본조사 데이터는 층화, 집락화, 그리고 불균등 추출확률 등의 표본선정 효과를 내포하므로 이를 무시하고 통상적인 회귀분석을 실시하면 심각한 오류를 범할 수 있다. 이러한 오류를 피하는 대안 중의 하나가 설계기반분산추정량을 이용하는 것이다. 본 연구에서는 설계기반분산추정량의 일반적인 형태를 소개하고 층화이단 표집에서 구체적인 형태를 제시한다. 그리고 설계기반분산추정량을 사용하는 것이 일반최소제곱분산추정량이나 가중최소제곱분산추정량을 사용하는 것보다 더 우수함을 보이기 위하여 한국복지패널 데이터를 이용하여 수행한 모의실험의 결과를 소개한다. 모의실험의 결과는 다음과 같다. 첫째, 회귀계수에 대한 일반최소제곱분산추정량과 설계기반분산추정량의 상대편향은 평균 -10% 정도로 나타났고, 상대편향의 폭은 설계기반분산추정량의 경우가 더 작았다. 반면 가중최소제곱분산추정량은 약 -50% 정도의 심각한 과소추정을 보였다. 둘째, 신뢰계수가 95%인 신뢰구간 추정에서 설계기반추정량은 평균 92%의 포함률을 보였고 표본수가 증가하면 95%에 접근하였다. 반면, 일반최소제곱추정량은 평균 84%, 가중최소제곱추정량은 평균 82%의 포함률을 보여 과소포함 문제가 심각하게 있는 것으로 나타났다. 비록 제한적인 모의실험의 결과이기는 하지만 위 결과는 복합조사 데이터를 이용한 회귀분석에서는 설계기반분산추정량을 사용하는 것이 더 좋은 결과를 낼 수 있음을 시사한다. This paper deals with the problem of variance estimation for regression coefficients based on complex survey data. Since survey data contains the effect of sample selection such as stratification, clustering, unequal selection probability, etc., it will be misleading in case of ignoring such effects. An alternative way of avoiding such an error is to use the design-based variance estimator. A general form of design-based variance estimator as well as a specific form under the stratified two-stage sampling design are presented. In addition, a simulation study using Korean welfare panel data is conducted to show that the design-based variance estimator is much better than both the ordinary least square variance estimator and the weighted least square variance estimator. The simulation results are as follows. First, both the ordinary least square variance estimator and the design-based variance estimator showed about -10% relative bias with much smaller variation of the design-based variance estimator. In contrast, the weighted least square variance estimator showed much severer under-estimation by about 50% relative bias. Second, in terms of confidence interval estimation with 95% level, the design-based estimator showed about 92% coverage rate with increase up to 95% as sample sizes increase. But the other two estimators showed under-coverage rates with 84% of the ordinary least square estimator and with 82% of the weighted least square estimator. Even in the basis of a limited simulation study, it may be said that the design-based variance estimator could give a better performance in regression analysis based on the complex survey data.

표본조사에서 비형태추정량에 관한 연구

오정택 ( Jungtaek Oh ),신기일 ( Key-il Shin ) 한국조사연구학회 2017 조사연구 Vol.18 No.4

표본조사에서는 추정의 정확성 및 정밀성 향상을 위해 흔히 보조정보를 이용한 일반화회귀추정량(generalized regression estimator)을 사용하며, 특히 사업체 조사와 같이 오차의 등분산성을 만족하지 않고 비모형을 만족하게 되면 일반화회귀추정량의 하나인 비추정량이 사용된다. 비추정량은 그 형태가 단순하여 사용이 편리하고 가중치 보정을 위해 쉽게 사용할 수 있어 최근 비추정량에 관한 다양한 연구가 진행되고 있다. 그러나 비추정량은 오차의 분산이 비모형의 가정에 적합할 때 우수한 결과를 주고 있으므로 분산의 특성을 파악한 후 비추정량의 사용 유무를 결정하는 것이 타당하다. 반면 오차가 등분산성을 만족하는 경우 사용하는 회귀추정량은 다양한 분포 및 분산 형태에 강건한(robust) 결과를 주고 있다. 본 연구에서는 회귀추정량의 우수한 성질을 그대로 유지하면서 그 형태가 비추정량이 되는 비형태추정량(ratio type estimator)을 제안하였다. 또한 회귀추정량과 비형태추정량의 관계를 살펴보았고 모의실험을 통하여 오차의 분포 및 분산 형태에 따른 회귀추정량과 비추정량 그리고 비형태추정량의 우수성을 살펴보았으며 실제 자료분석을 통해 이론적 결과를 확인하였다. The sample survey uses information from auxiliary variables to improve the accuracy and precision of estimation. In particular, business survey frequently uses the ratio estimator when the variance of errors is heterogeneous. The ratio estimator is simple in its form, convenient to use, and easy to use for weight adjustment. However, the estimator gives excellent results only when the variance structure is suitable for the use. Therefore, it is appropriate to determine the use of that estimator after checking the characteristics of variance. In addition, the regression estimator gives a very robust result for the various distribution types and variance structures. In this study, we studied the ratio type estimator which is maintaining excellent properties of the regression estimator. In particular, we examined the relationship between the regression estimator and the ratio type estimator, and compared the superiority of the regression estimator, ratio estimator and ratio type estimator according to the distribution and variance type of errors through simulation studies and real data analysis.

포함확률비례추출에서 회귀계수 최소제곱추정량의 근사분산

김규성,Kim, Kyu-Seong 한국통계학회 2012 Communications for statistical applications and me Vol.19 No.1

본 논문은 유한모집단에서 회귀계수추정량의 근사편향과 근사분산을 다루고 있다. 유한모집단에서 고정크기 포함확률비례표본을 추출하고 이 표본에서 조사된 데이터에 기초하여 회귀계수를 일반최소제곱추정량과 가중최소제곱추정량으로 추정할 때 두 추정량의 편향, 분산 그리고 평균제곱오차의 근사식을 유도하였다. 그리고 두 추정량의 효율을 비교하기 위하여 두 추정량의 분산을 비교하는 필요충분조건을 제시하였다. 또한 수치적인 비교를 위하여 간단한 예제를 소개하였다. This paper deals with the bias and variance of regression coefficient estimators in a finite population. We derive approximate formulas for the bias, variance and mean square error of two estimators when we select a fixed-size inclusion probability proportional to the size sample and then estimate regression coefficients by the ordinary least square estimator as well as the weighted least square estimator based on the selected sample data. Necessary and sufficient conditions for the comparison of the two estimators in terms of variance and mean square error are suggested. In addition, a simple example is introduced to numerically compare the variance and mean square error of the two estimators.

비선형 회귀모형에서 오차의 분산에 따른 예비검정 추정방법

유혜원,임창원,Yu, Hyewon,Lim, Changwon 한국통계학회 2016 응용통계연구 Vol.29 No.4

일반적으로 독성학 또는 약리학에서는 자료를 분석할 때 Hill Model과 같은 비선형 회귀모형을 사용한다. 비선형 회귀모형에서 모수의 추정량과 그것의 불확실성(uncertainty)에 대한 측도의 추정은 오차의 분산 구조에 영향을 받게 된다. 따라서 자료가 등분산인지 혹은 이분산인지에 따라 사용하여야 할 추정 방법이 달라져야 한다. 그러나 일반적으로 자료를 실제로 분석하기 전에는 오차의 분산구조에 대해서 잘 알 수 없다. 그러므로 오차의 분산구조에 로버스트한 추정 방법을 개발하는 것은 중요한 문제이다. 본 논문에서는 예비검정 방법을 기반으로 한 비선형 회귀모형에서의 모수 추정 방법을 제안하였다. 오차 분산의 등분산성에 대한 간단한 예비검정의 결과에 따라 보통 최소제곱 추정(ordinary Least Square Estimation) 방법과 반복 가중 최소제곱 추정(iterative weighted least square estimation) 방법을 사용하는 추정량을 정의하였다. 제안된 추정량은 모의실험 연구를 통하여 기존의 표준적인 추정량들과 그 성능을 비교하였다. 또한 미국의 National Toxicology Program으로부터 얻어진 실제자료를 사용하여 추정 방법들을 비교하였다. We use nonlinear regression models (such as the Hill Model) when we analyze data in toxicology and/or pharmacology. In nonlinear regression models an estimator of parameters and estimation of measurement about uncertainty of the estimator are influenced by the variance structure of the error. Thus, estimation methods should be different depending on whether the data are homoscedastic or heteroscedastic. However, we do not know the variance structure of the error until we actually analyze the data. Therefore, developing estimation methods robust to the variance structure of the error is an important problem. In this paper we propose a method to estimate parameters in nonlinear regression models based on a preliminary test. We define an estimator which uses either the ordinary least square estimation method or the iterative weighted least square estimation method according to the results of a simple preliminary test for the equality of the error variance. The performance of the proposed estimator is compared to those of existing estimators by simulation studies. We also compare estimation methods using real data obtained from the National Toxicology program of the United States.

패널회귀모형에서 회귀계수 추정량의 설계기반 성질

김규성 ( Kyu Seong Kim ) 한국조사연구학회 2011 조사연구 Vol.12 No.3

범주형 자료 분석을 위한 LAD 추정량

최현집 한국통계학회 2003 응용통계연구 Vol.16 No.1

일반적인 다차원 분할표 분석을 위해 고려 할 수 있는 로그 선형 모형 (log-linear model)과 순위 변수(ordered variables)가 고려된 여러 연관성 모형(association models)을 위한 가중값이 부여된 LAD(least absolute deviations) 추정량을 제안하고 추정을 위한 반복 추정법을 제안하였다. 모의실험을 통하여 제안된 LAD추정량이 최우추정량에 비해 로버스트한 성질을 갖는 다는 것을 밝히고, 이상칸 식별을 위해 많은 선행 연구들에서 인용된 자료들의 경험적 분석을 통해 제안된 추정량과 추정방법이 가질 수 있는 문제점과 특징에 관하여 토론하였다 In this article, we propose the weighted LAD (least absolute deviations) estimators for multi-dimensional contingency tables and drive an estimation method to estimate the proposed estimators. To illustrate the robustness of the estimators, simulation results are presented for several models Including log-linear models and models for ordinal variables in multidimensional contingency tables. Examples were also introduced.

커널 백피팅 알고리즘 기반의 가중 β-지수승 최소평균제곱오차 추정방식을 적용한 보컬음 분리 기법

조혜승,김형국,Cho, Hye-Seung,Kim, Hyoung-Gook 한국음향학회 2016 韓國音響學會誌 Vol.35 No.1

본 논문에서는 커널 백피팅 알고리즘에 가중 ${\beta}$-지수승 최소평균제곱오차 추정방식(weighted ${\beta}$-order minimum mean square error: WbE)을 적용한 보컬음 분리 방식에 대해 제안한다. 음성 향상 방식에서, WbE는 진폭 성분 기반 MMSE(Minimum Mean Square Error) 추정방식, 로그 스펙트럼 진폭 기반 MMSE 추정방식 등과 같은 기존의 베이지안(Bayesian) 기반의 추정방식들 보다 객관적 및 주관적 측면에서 모두 보다 높은 성능을 나타내는 방식으로 잘 알려져 있다. 이에 본 논문에서는 기본적인 반복적 커널 백피팅 알고리즘에 WbE를 적용하여 음악 신호에서의 보컬음 분리 성능을 향상시키고자 하였다. 실험결과는 본 논문에서 제안한 방식이 기존의 분리 방식보다 분리 성능이 더 뛰어나다는 것을 보인다. In this paper, we propose a vocal separation method using weighted ${\beta}$-order minimum mean wquare error estimation (WbE) based on kernel back-fitting algorithm. In spoken speech enhancement, it is well-known that the WbE outperforms the existing Bayesian estimators such as the minimum mean square error (MMSE) of the short-time spectral amplitude (STSA) and the MMSE of the logarithm of the STSA (LSA), in terms of both objective and subjective measures. In the proposed method, WbE is applied to a basic iterative kernel back-fitting algorithm for improving the vocal separation performance from monaural music signal. The experimental results show that the proposed method achieves better separation performance than other existing methods.

메타분석기반 자동비상제동장치 사고방지 효과 연구

이재상(Jae-sang Lee),이재원(Jae-won Lee),김태원(Tae-won Kim) 한국자동차공학회 2019 한국 자동차공학회논문집 Vol.27 No.9

For the road safety of passengers and vulnerable road users, the advanced driver-assistance systems(ADAS) were recently introduced in vehicles. Among the ADAS, AEB is known as the best safety device for preventing traffic accidents. However, it is difficult to find a study that analyzes its effects by using the accident statistics of a country. The effectiveness of AEB on actual roads is the basic data for improving the performance of AEB and calculating the vehicle insurance premium. This paper presents the collision avoidance effect of AEB by means of a meta-analysis method. Meta-analysis is a statistical method used for deriving a comprehensive conclusion based on several studies. In order to estimate the effectiveness of AEB by applying the meta-analysis method, the accident data from Korean auto insurance companies are used. As a result, among the same model vehicles, the accident rate of a vehicle with an AEB was approximately 10 % to 17 % smaller than that of a vehicle without an AEB. The purpose of this study is to verify the effectiveness of AEB’s actual accident prevention for domestic vehicles lacking in statistical verification studies.

메타분석기반 자동비상제동장치 사고방지 효과 연구

이재상(Jae-sang Lee),이재원(Jae-won Lee),김태원(Tae-won Kim) 한국자동차공학회 2019 한국 자동차공학회논문집 Vol.27 No.10

For the road safety of passengers and vulnerable road users, the advanced driver-assistance systems(ADAS) were recently introduced in vehicles. Among the ADAS, AEB is known as the best safety device for preventing traffic accidents. However, it is difficult to find a study that analyzes its effects by using the accident statistics of a country. The effectiveness of AEB on actual roads is the basic data for improving the performance of AEB and calculating the vehicle insurance premium. This paper presents the collision avoidance effect of AEB by means of a meta-analysis method. Meta-analysis is a statistical method used for deriving a comprehensive conclusion based on several studies. In order to estimate the effectiveness of AEB by applying the meta-analysis method, the accident data from Korean auto insurance companies are used. As a result, among the same model vehicles, the accident rate of a vehicle with an AEB was approximately 10 % to 17 % smaller than that of a vehicle without an AEB. The purpose of this study is to verify the effectiveness of AEB’s actual accident prevention for domestic vehicles lacking in statistical verification studies.