Analysis of Multivariate Binary Random Effect Models using Hierarchical Likelihood Approach

김아름,노맹석 한국자료분석학회 2019 Journal of the Korean Data Analysis Society Vol.21 No.4

This paper proposes using hierarchical-likelihood estimation method for binary panel data models featuring state dependence and unmeasured heterogeneity. Hierarchical generalized linear models are an extension of generalized linear models in that they combine generalized linear models with random effects. Hierarchical likelihood based upon hierarchical generalized linear models provides a useful tool for analyzing multivariate data with correlation. These models allow various regression models for mean parameters of response variable as well as dispersion parameters. For a inference, the hierarchical- likelihood approach is suggested for a useful too as model selection and residual plots with real data analysis. In this paper, we suggest hierarchical-likelihood approach estimators for binary random effects-models, and show that this approach outperforms existing marginal likelihood estimators at low computation cost by simulation studies. And then, we add its usefulness by analyzing a real example.

해외 자회사의 현지임원비율 영향요인에 대한 다수준 연구 - 본사 역량의 조절효과를 중심으로

송재용(Jaeyong Song),윤채린(Chaerin Yun) 한국인사조직학회 2007 인사조직연구 Vol.15 No.2

  본 연구는 해외 자회사의 경험적인 역량과 본사 글로벌 역량이 자회사의 현지임원비율에 미치는 효과를 검증하는데 그 목적이 있다. 해외 자회사의 생존, 성과달성과 관련된 많은 선행 연구들은 본사와 자회사 간 관계를 강조하였으나, 본사와 자회사의 특성을 개별적으로 고찰하였을 뿐 그들 사이에 존재하는 관계의 역동성을 탐색하는 데는 소홀하였다. 102개의 일본 다국적 기업 본사와 이들이 보유한 307개의 해외 자회사를 대상으로 위계적 선형모형(HLM)을 사용한 본 연구의 실증 분석 결과 해외 자회사가 체득한 현지 시장에서의 경험적인 역량은 현지 임원비율을 높이는데 기여하는 반면, 본사가 지닌 기술적인 역량은 개별 자회사가 추구하는 임원진의 현지화에 제약을 가할 수 있음이 입증되었다. 또한 본사의 국제화 역량은 자회사의 현지임원비율에 직접적인 영향은 미치지 않았으나, 자회사의 현지 경험적 역량이 현지화 수준에 기여하는 영향력을 약화시키는 부(-)적인 조절변수의 역할을 수행할 수 있음이 추가적으로 밝혀졌다. 해외 자회사의 현지화와 관련하여 본 연구의 분석결과가 주는 시사점과 한계점은 결론 부분에서 논의하였다.   In the global expansion process, multinational corporations (MNCs)’ global strategy should address the tension between global integration and local responsiveness. In order to balance such conflicting priorities, one of the key strategic decisions that MNCs face is to determine the level of localization (e.g., level of hiring and empowering local managers, level of sourcing local components and technologies) in a specific host location where it set up an overseas subsidiary (Doz et al., 1981). Localization of a MNC is defined as a process of becoming a local firm by pursuing major value activities based on locally secured resources such as personnel, capital, raw materials and components, and technologies. Studies on the stages of the internationalization process also stress the importance of localization in the evolution of MNCs in host locations (Johanson & Vahlne, 1977). The experiential learning perspective views sequential foreign direct investments in a location as an evolutionary process of building firm-specific, local-bound capabilities in the location (Song, 2002). However, in spite of both academic and practical importance of localization in formulating international strategy of MNCs, the paucity of data prevented scholars from conducting a systematic empirical study of factors influencing the level of subsidiaries’ localization in a host location. This study aims at advancing our understanding about the determinants of localization by investigating factors that influenced localization decisions of Japanese electronics companies.<BR>  Today, there is widespread agreement that MNCs should be conceptualized as a differentiated network of internationally dispersed units. Overseas subsidiaries have to deal with not only differentiated local environments but also different requests and needs from coprorate headquarters, which they draw upon for resources and administrative practices. Thus, Overseas subsidiaries confront conflicting pressures for conformity to conditions in local environments in the host countries and for an imperative for consistency within the multinational enterprise. MNCs are inherently hierarchical. Subsidiaries are nested in both headquarters and local environments. Subsidiaries form part of an MNC that has the capacity to share knowledge across its various units (Bartlett & Ghoshal, 1998). And subsidiaries often embody social, professional, and technological relationships among local firms permitting inter-firm knowledge flows within their host countries (Almeida & Phene, 2004). Given this hierarchical characteristics, a natural concern is how different levels in the hierarchical system influence behaviors of overseas subsidiaries. Researchers in strategy and organization theory have long acknowledged the influence of a firm’s context on its behavior and performance.<BR>  Due to the inherently hierarchical nature of organizations, data collected in organizations consist of nested entities. Although most organizational researchers have chosen to investigate these multilevel models using traditional ordinary least squares approaches, hierarchical linear models have recently drawn growing attention (Hoffman & Gavin, 1998). Given the nature of organizations, it is clear that variables at one hierarchical level can influence variables at another level. Hierarchical linear models (HLM) provide a conceptual and statistical mechanism for investigating and drawing conclusions regarding the influence of phenomena at different levels of analysis (Hofmann, 1997). Thus, HLM can overcome the disadvantages of the traditional approaches. One of the primary advantages of hierarchical linear models is that they allow one to simultaneously investigate relationships within a particular hierarchical level as well as relationships across hierarchical levels. In order to model both within level and between-level relationships, one needs to simultaneously estima

모의실험을 이용한 3-수준 다층성장모형과 3-수준 다중소속다층성장모형의 비교

정혜원,전현정 충남대학교 교육연구소 2015 교육연구논총 Vol.36 No.3

This study was investigated the impact of mis-specifying facets within 3-level multiple membership multilevel data structures. Multiple membership multilevel data structures are commonly encountered in longitudinal datasets but ignored in traditional hierarchical linear growth modeling analyses. This simulation study compared the relative biases and model fit indexes from the 3-level hierarchical linear growth models to those from correctly specified 3-level multiple membership multilevel growth models. The manipulated conditions were: multiple membership rate (10%, 20%), number of students per school (50, 100), and number of schools (100, 200). The results revealed the under-estimation of level-three variance components but also the over-estimation of level-two as well as level-one random effect variance components when the multiple membership data structure was ignored. The model fit values using deviance information criterion supported 3-level multiple membership multilevel growth models over traditional hierarchical linear growth modeling across all conditions. 본 연구는 3-수준 다중소속 다층자료의 명세화 오류 영향을 연구하고자 하였다. 종단연구에서 흔히 발생하는 다중소속 다층자료 구조는 전통적인 다층모형에서는 적절하게 모형화 될 수 없다. 이 모의실험 연구에서는 3-수준 다중소속 다층자료를 무시한 전통적인 3-수준 다층성장모형과 다중소속을 모형화한 3-수준 다중소속다층성장모형의 상대편의성 및 모수적합도를 비교하였다. 본 연구의 목적을 수행하기 위해 다중소속비율 (10%, 20%), 2-수준 표본크기 (50, 100), 3-수준 표본크기 (100, 200)의 조건들이 고려되었다. 모든 실험조건에서 두 모형의 고정효과의 추정에서는 상대편의가 나타나지 않았다. 그러나 다중소속 다층자료가 무시되었을 경우, 3-수준 무선효과 분산이 과소 추정되는 반면, 2-수준과 1-수준 무선효과 분산은 과대 추정되는 상대편의가 나타났다. 모든 실험조건에서, 3-수준 다중소속다층성장모형의 모형적합도(Deviance Information Criterion)가 3-수준 다층성장모형보다 더 적합한 것으로 나타냈다.

범죄 두려움의 위계 일반화 선형 분석

류준혁 ( Jun Hyuk Ryu ) 대한범죄학회 2011 한국범죄학 Vol.5 No.1

Since 1960, there are strong arguments that fear of crime should be independently considered with crime event. As a result, a body of literature has emerged to analyze about fear of crime for several decades. However, previous researches have not only focused on solely analyzing general fear of crime but also failed to consider characteristics of nested data. To fill the void of previous researches, this study tried to test the determinants of general and specific fear of crime under three models(crime vulnerability model, disorder model, and social integration model) by using Hierarchical Generalized Linear Model. On the basis of survey data on 1,230 randomly selected at Daegu, Hierarchical logistic analysis found that various individual and community variables have consistent influences on general and specific fear of crimes. In general, this study found that crime vulnerability model and social integration models are strongly supported, but disorder model does not have any effect on various fear of crimes. Furthermore, contrary to theoretical expectation, this study found that some variables only affect on the specific fear of crime and even same variables could differently influence on specific fear of crime.

On Estimation of Random Effect in Poisson HGLMs

하일도 한국데이터정보과학회 2008 한국데이터정보과학회지 Vol.19 No.1

Hierarchical-likelihood (h-likelihood) provides a statistically efficient procedure for various random-effect models. Recently, a method using the computationally attractive orthodox best linear unbiased predictor (BLUP) has been proposed. In particular, both methods directly provide the inference about random effects. In this paper we compare both approaches for Poisson HGLMs (hierarchical generalized linear models), which are very useful for the analysis of correlated count data. We demonstrate by simulation studies that the h-likelihood approach performs better, particularly for the prediction interval of random effects.

장애인직업재활시설 내 장애인의 임금에 영향을 미치는 요인에 관한 연구

김혜연(Kim Hye-Yeon) 한국사회복지학회 2010 한국사회복지학 Vol.62 No.4

본 연구는 장애인의 직업재활성과에 영향을 미치는 개인적, 조직적 특성을 밝힘으로써 장애인 직업재활사업의 발전을 위한 실천적 함의를 제공하는데 목적이 있다. 분석을 위해 2009년 서울시에서 운영비를 지원하고 있는 장애인 직업재활시설 내 장애인과 시설에 대한 조사결과를 활용하였으며, 임금수준을 장애인의 직업재활성과로 간주하여 분석하였다. 분석방법으로는 직업재활성과의 개인효과와 조직효과를 구분하기 위해 위계선형모형(Hierarchical Linear Model)을 사용하였다. 분석결과, 장애인직업재활시설 간 차이가 장애인의 임금수준을 설명하는 비중이 유의하게 높았으며, 개인특성과 조직특성의 상호작용효과를 분석한 결과 장애유형과 조직특성 변수 간의 상호작용효과가 유의한 것으로 나타났다. 정책적으로 장애인 직업재활사업의 성과를 높이기 위해 직업재활시설 간 격차를 줄이기 위한 노력이 필요하며, 장애유형 및 특성에 따라 시설운영에 있어 각별한 관심이 요구된다. The purpose of this study is to examine factors on wage of the Disabled. This study attempts to identify organizational effects on wage of the disabled. Then, this study adopts hierarchical linear model for the study purpose. Data used for this article is the survey on the vocational rehabilitation facilities in Seoul. The results are as follows. First, wage of the disabled is different from organizations as well as individuals. So, there are necessities in the consideration of organizational effects and the application of hierarchical linear model. Second, effects on wage of the disabilities controlling individual factors such as age, educational level, period using the facilities, sex, whether or not beneficiary, type of disability are different from organization. Finally, there are interaction effects of type of disability and organizational character variables. The implications of these findings are as follows. First, more political concerns should be given on the management of vocational rehabilitation facilities. Second, it is needed to concern about vocational rehabilitation of the mentally disabled.

The Extension of REML Algorithm for Hierarchical Generalized Linear Models

노맹석 한국자료분석학회 2014 Journal of the Korean Data Analysis Society Vol.16 No.3

The restricted maximum likelihood procedure is useful for inferences about variance components in mixed linear models. However, its extension to hierarchical generalized linear models has encountered some difficulties. Numerical integration such as Gauss-Hermite quadrature is generally not recommended when the dimensionality of the integral is high. Approximate methods such as penalized quasi-likelihood estimators may have severe biases when analysing binary data. In this paper we introduce the hierarchical likelihood (or h-likelihood) algorithm which resolves these difficulties. Numerical studies show how the proposed method overcomes them. We also discuss how the restricted maximum likelihood estimating equations for mixed linear models can be modified in more general models.

Investigating a Hierarchical Inductive Bias in L2-textbook Seq2Seq Language Model

김유희,구건우 한국응용언어학회 2023 응용 언어학 Vol.39 No.3

The relations between words in natural language are governed by hierarchical structures rather than linear ordering. In recent years, artificial neural network-based language models (LMs) have demonstrated impressive achievements in tasks related to sentence processing. These models benefit from pre-training, which helps enhance their performance. However, our comprehension of the precise syntactic knowledge acquired by these models during sentence processing remains somewhat restricted. This paper examines whether the L2-textbook Seq2Seq (Sequence-to-Sequence) language model processes or transforms sentences based on a syntactic hierarchical inductive bias or a linear inductive bias through transformation tasks. We replicate several previous experiments and explore our model’s capacity to exhibit human-like behavior. Our experiments provide evidence that, in transformation tasks, our pre-trained L2-textbook LSTM-based Seq2Seq model performed based on the linear rule rather than the hierarchical rule. In essence, our model showcased a linear inductive bias, consistent with the Scratch-Seq2Seq model.

위계적 선형모형(HLM)을 이용한 조직의 조직문화가 구성원의 직무만족과 조직몰입에 미치는 영향 분석

한봉주(Han, Bong Ju) 한국인사관리학회 2012 조직과 인사관리연구 Vol.36 No.3

본 연구는 위계적 선형모형(Hierarchical Linear Model, HLM)을 적용해서 조직의 조직문화가 구성원의 직무만족과 조직몰입에 미치는 영향을 분석하였다. 그동안 개인의 태도나 행태를 설명하기 위한 가장 일반화된 접근방법은 회귀방정식이나 구조방정식(Structural Equation Model, SEM)을 이용하는 것이었다. 그러나 조직 내에서 개인의 태도나 행태는 개인수준의 특성뿐만 아니라 그보다 상위 차원의 조직수준에 의해서도 영향을 받는다. 이 경우 가장 문제가 되는 것은 분석의 수준이 다른 경우 조직수준을 기존의 모델은 담지 못한다는 점이다. 결국, 조직문화도 분석의 수준 이슈에 있어 자유로울 수 없다. 본 연구는 HLM 분석을 통해 기존의 방법론적 한계를 극복할 수 있음을 제시하였다. HLM의 분석결과는, 조직의 합의문화만이 구성원의 직무만족과 조직몰입에 정(+)의 유의한 영향을 미치는 것으로 나타났다. 이 결과는 조직수준의 회귀분석을 이용한 결과와도 동일하다. 하지만 개인수준의 회귀분석과 구조방정식에서는 HLM의 결과와는 다르게 나타났다. 결국, 어떠한 분석방법을 사용하느냐에 따라 변수간의 인과관계가 달라질 수 있음을 시사하는 부분이다. 이렇듯 변수간의 인과관계를 검증하기 위해서는 자료의 속성과 이론 모형에 적합한 접근방법을 선택하는 것이 매우 중요하다. 분석의 수준을 달리하는 다수준 자료인 경우 기존의 회귀방정식이나 구조방정식보다 HLM이 더 타당한 방법임을 보여준 본 연구는 조직 및 인사 분야의 발전에 기여할 것으로 기대한다. The purpose of this study is to analyze the effect of organizational culture of the organization on employee job satisfaction and organizational commitment using hierarchical linear model(HLM). Meantime, the general approach to the regression equation and structural equation model(SEM) has been used to explain the attitudes and behaviors of individuals. However, attitudes and behaviors of individuals within the organization are affected by the characteristics of the individual level as well as the upper levels of the organization. This case is not supported that the existing model includes a organizational level. Eventually, organizational culture depends on the level of analysis issues. This study suggests that HLM enables overcome the methodological limitations from the existing model. In result of HLM Analysis, it appears that only the consensual culture of the organization has a significant and positive(+) effect on employee job satisfaction and organizational commitment. Regression analysis of the organizational level shows the same result. However, regression analysis of individual level and structural equation model bring about different result from one by HLM. Finally, a causal relationship depends on method of analysis used. It is very important to select the appropriate approach to the theoretical model and properties of the material in order to validate a causal relationship between variables. HLM is a better choice than regression equations and structural equation model in case of the existing multi-level data. Consequently, this study is expected to contribute to development of the Organization and Human Resource.

고정 효과 회귀분석 vs. 무선 효과 위계적 선형모델(HLM): 가족 구성 및 정보 프라이버시 염려가 비판적 정보 추구 행위에 미치는 영향

류성진 한국언론학회 2024 커뮤니케이션 이론 Vol.20 No.1

In the case of regression analysis, it is necessary to diagnose whether the assumptions such as linearity, normality, homoscedasticity, and independence of residuals, multicollinearity are satisfied before full-scale analysis. If some assumptions are not met, appropriate measures, such as data transformation, must be applied to the data to achieve valid and reliable analysis results only after full-scale analysis is performed after the assumptions are met. Textbooks or papers dealing with the diagnosis of residual linearity, normality, homoscedasticity, and multicollinearity among the various assumptions introduced earlier are not difficult to find in communication academia. However, papers and discussions on the assumption of independence are hard to find in those area. In this repect, the study aims to introduce the assumption of residual independence, diagnosis, and statistical analysis technique that can overcome violation of residual independence, that is, hierarchical linear model(hereinafter, HLM). If clustering occurs due to interactions among members within the group, residual independence may be violated, which leads to an increase in standard error, resulting in a problem of testing inappropriate statistical significance. HLM has the advantage of being able to test appropriate statistical significance in consideration of such residual non-independence. In this study, in order to clearly explain the characteristics of HLM, we tried to conduct a comparative analysis with the results of fixed effect regression analysis. Using 2023 media panel survey data, the two statistical analysis techniques presented above were applied to test the differences in the impact of information privacy concerns on media literacy according to family composition. As a result of the analysis, the effect on media literacy according to family composition was statistically significant in the fixed effect regression analysis, and the interaction between family composition and information privacy concerns on media literacy was significant. However, in the case of this regression analysis, Durbin Watson d statistics confirmed that the assumption of independence was violated, confirming that there is a possibility of committing a Type I error. To the contrary, HLM revealed that the average difference in random effects of influence on media literacy according to family composition and the difference in the slope of random effects of information privacy concerns on media literacy according to family composition were not statistically significant, either. This study confirmed that in the case of data that can violate the assumption of residual independence, that is, if group clustering is likely to occur, using HLM is an effect way to reduce Type I errors. 회귀분석의 경우 본격적인 분석에 앞서 잔차의 선형성, 정규성, 등분산성, 독립성, 다중공선성 등의 가정 충족 여부를 진단해야 한다. 만일 일부 가정이 충족되지 않을 경우, 데이터에 적절한 조치, 예를 들어, 데이터 변환 등을 통해 가정을 충족한이후분석을 실행할 때 타당하고 신뢰할 수 있는 분석 결과를 얻을 수 있다. 커뮤니케이션 학계에서는 앞서 소개한 잔차의 선형성, 정규성, 등분산성, 다중공선성에 대한 가정 진단을 다룬 교재나 논문을 어렵지 않게 접할 수 있다. 그러나 독립성 가정을 다룬 논문이나 논의는 의외로 찾기가 쉽지 않다. 이 점에 착안하여, 이 연구는 잔차의 독립성 가정 및 진단 방법을 소개하고자 한다. 더불어, 잔차의 독립성 위배를 극복할 수 있는 통계분석기법, 즉 위계적 선형모델(hierarchical linear model: HLM)도 함께 소개하고자 한다. 집단 내 구성원 간 상호작용으로 인한 군집화가 발생할 때 잔차 독립성은 위배될 가능성이 있으며, 이는 곧 표준오차의 증가로 이어져부적절한통계적유의성을검증하는문제가 발생한다. HLM은 이 같은 잔차의 비독립성을 고려하여 타당한 방식으로 통계적 유의성을 검증할 수 있다는 장점이 있다. 이번 연구에서는 HLM의 특징을 명확하게 설명할 목적으로 기존 연구에서 일반적으로실행하는고정 효과 OLS 회귀분석의 결과와 비교분석을 진행했다. 2022년 미디어패널조사데이터를활용하여 가족 구성에따라정보 프라이버시 염려가 비판적 정보 추구 행위에 미치는 영향의 차이를 검정하기 위해 앞서 제시한 두 가지 통계분석기법을 적용하여 비교분석했다. 분석 결과, 고정 효과 OLS 회귀분석에서는 가족 구성에 따라 비판적 정보 추구 행위에 미치는 영향이 통계적으로 유의미했으며, 비판적 정보 추구 행위에 미치는 가족 구성과 정보 프라이버시 염려 간 상호작용은 유의미한 것으로 드러났다. 그러나 잔차 간 독립성 가정을 진단한 결과, 이 가정은 위배되었음이 밝혀졌고, 따라서 유의성 검증에 대한 제1종 오류를 범할 위험이 있음을 확인할 수 있었다. 이를 극복하기 위해 HLM을 실행한 결과, 가족 구성에 따라 비판적 정보 추구 행위에 미치는 영향의 무선 효과 평균 차이 그리고 가족 구성에 따라 정보 프라이버시 염려가 비판적 정보 추구 행위에 미치는 영향, 즉 무선 효과 기울기 차이는 통계적으로 유의미하지 않은 것으로 드러났다. 이번 연구 결과를 통해 잔차의 독립성 가정을 위배할 수 있는 데이터의 경우, 즉 집단의 군집화가 발생할 가능성이 있는 경우, 향후 연구자들은 HLM 사용을 신중하게 고려해 보길 이번 연구는 제안하고자 한다.