Prediction of product-level schedules using sequence learning for flexible manufacturing systems under uncertainties

Meilanitasari, Prita 한양대학교 대학원 2021 국내박사

Recently, the industrial megatrends for manufacturing innovation, called Smart Factory, Advanced Manufacturing and Industry 4.0, have been deployed across manufacturing-advanced countries to gain their advantages of manufacturing competitiveness. In the management of technology perspective, the manufacturing innovation is moving industries toward digital transformation to digitalize manufacturing assets and information for increasing productivity through the convergence of information and communication technology and manufacturing technology. In the industrial automation perspective, the manufacturing innovation endows manufacturing objects with manufacturing intelligence to enable autonomous and cooperative decision making and control across heterogeneous devices and applications. Accordingly, Flexible Manufacturing Systems (FMS) are being evolved to incorporate higher flexibility and dynamics to cope with the increase of the variety of customer demands. Ironically and inevitably, uncertainty increases with the increase of flexibility and dynamics in real manufacturing environments. The uncertainty can cause from limited machine capacity, diverse processing time, invisible inventory, sudden order, machine breakdown, and demand fluctuation, thereby decreasing the visibility and foresight in FMS. Therefore, it is critical to create accurate and granular production scheduling with the reflection of the uncertainty factors to satisfy on-time delivery for customer requests. Such production scheduling requires the predictive technology that can understand the current status of production and forecast the product and job sequences within available resources, based on the real data obtained from manufacturing processes. This predictive scheduling enables to achieve the schedule optimization with consideration of diversity and uncertainty FMS. The relevant studies have been endeavored to optimize production schedules in the macro view using stationary dispatching rules such as First In First Out (FIFO), and Shortest Processing Time (SPT) as well as heuristics and/or mathematical modeling approaches. These studies have contributed to not only solving traditional problems that involve product scheduling and sequencing in FMS but also optimizing productivity performance within the given scenarios. However, stationary dispatching rules lack in reflecting the flexibility and dynamics in FMS nor heuristics and mathematical modeling approaches limit in showing the responsivity to cope with frequent changes in real FMS environments. Furthermore, optimization in the macro view is confined to trace and predict the locations of individual products on manufacturing processes in a real-time manner. This study proposes a prediction method for product level schedules based on sequence learning with consideration of the uncertainty factors including limited machine capacity, diverse processing time and unplanned waiting time. This study also includes two case studies using a simulator and a physical facility to demonstrate the feasibility and usability of the proposed method. The proposed method associates the predictive technology to forecast the locations and sequences of individual products based on data-driven sequence learning; meanwhile, the method considers limited machine capacity, diverse processing time and unplanned waiting time as the uncertainty factors. The proposed method comprises the three stages: 1) product segmentation (a rule-based model to group a set of products based on ranges of their processing time), 2) sequence prediction (a sequence learning-based model to predict locations and sequences of individual products), and 3) production time determination (a deterministic algorithm to calculate time-domain values including arrival time, waiting time, finish time and total completion time). Particularly, the sequence prediction uses Markov chain to create probabilistic sequence models for the dynamic FMS environments where unplanned waiting time occurs in a buffer station due to diverse processing time and limited machine capacity. The proposed method can be used to create data-driven models for predicting product sequences and schedules in a micro view, thereby contributing to optimizing product level scheduling based on the predictive models. Such predictive models enable product sequences to be transformed from unpattern and unknown due to the uncertainty factors to patterned and known in FMS. 최근, 전 세계 제조강국에서는 제조 경쟁력 우위 획득을 위하여 스마트 공장, 첨단 제조 및 Industry 4.0으로 불리우는 제조 혁신을 향한 산업 메가트렌드가 전개 되고 있다. 기술 경영 측면에서는, 이러한 제조 혁신의 노력이 제조기술과 정보통신기술의 융합을 통하여 생산성 향상을 위한 산업분야의 디지털 변환 가속화로 연계되고 있다. 산업자동화 측면에서는, 제조 구성요소들에게 지능을 부여하여 자율적이고 협업적으로 의사결정 및 제어를 수행하는 제조 지능화의 실현을 주요 목표로 이루어지고 있다. 이러한 노력과 연계되어, 유연 생산시스템은 고객 요구 다양성의 증가에 적극적으로 대응하기 위하여 고수준의 유연성을 가지며 동적 역량이 향상된 체계로의 전환이 이루어지고 있다. 역설적으로, 유연성과 역동성의 증가와 함께 기계용량 제약, 공정시간 다양성, 재고 비가시성, 긴급 주문, 요구 변동 등에 의해 기인되는 불확실성이 증가하게 됨으로써, 유연 생산시스템에 대한 가시성과 예측성이 감소하는 현상이 필연적으로 발생하게 된다. 따라서, 최신 유연 생산시스템에서는 불확실성 요소들을 감안한 보다 정확하고 정밀한 생산 스케줄링이 필요하다. 이러한 생산 스케줄링을 위해서는 현재의 생산 현황을 이해하고, 현장으로부터 수집된 데이터를 기반으로 스케줄을 예측하는 기술이 필요하다. 이를 통하여, 주어진 상황을 대변하는 데이터로부터 해당 유연 생산시스템의 특성과 불확실성 요소들이 반영된 스케줄링 최적화를 달성할 수 있기 때문이다. 대부분의 기존 연구는 FIFO (First In First Out), SPT (Shortest Processing Time) 등 확정적인 디스패칭 규칙을 적용하고, 휴리스틱 및 수학적 모델링 방법을 활용하여 전체 시스템 관점의 스케줄링 최적화를 목적으로 진행되었다. 이러한 기존 연구는 고전적인 유연 생산시스템 스케줄링 문제를 해결하고 목표 성능을 최적화함으로써 생산성을 향상시키는데 공헌하였다. 그러나, 확정적 디스패칭 규칙은 제조현장의 유연성 및 역동성을 반영하기 어려우며, 휴리스틱 및 수학적 모델링은 제조현장 상황의 변경에 대한 반응성이 떨어진다. 또한, 전체 시스템 수준의 최적화가 이루어지다 보니 제품별로 현재 위치의 추적 및 예측이 어려운 것이 한계이다. 본 논문에서는 유연 생산시스템에서 불확실성 요소들을 감안한 시퀀스학습 기반 제품수준 일정 예측 방법을 개발한다. 또한, 본 논문에서는 제안 방법의 유효성 및 성능 검증을 위하여 시뮬레이션 및 실증 장비를 활용한 사례 연구를 소개한다. 제안 방법은 기계용량 제약, 공정시간 가변성 및 비계획 대기시간을 불확실성 요소로 정의하며, 데이터 기반 시퀀스 학습을 활용하여 유연 생산시스템에서의 제품별 위치와 시퀀스를 예측하는 기술이다. 본 방법은: 1) 제품 세그먼테이션 (공정시간에 따른 제품군 분류를 위한 규칙 모델), 2) 제품 시퀀스 예측 (설비별 제품 위치 및 순서 예측을 위한 시퀀스 학습 예측 모델), 3) 제품 및 시스템 생산시간 계산 (제품별 공정시간 및 시스템 생산시간 계산을 위한 결정론적 알고리즘)으로 구성된다. 여기서, 제품 시퀀스 예측은 공정시간 다양성과 기계용량 제약으로 인하여 버퍼에서 비계획 대기시간이 발생하는 생산설비를 보유한 유연 생산시스템으로부터 수집된 데이터를 마코프 체인을 이용하여 제품 시퀀스를 학습함으로써 이루어진다. 제안 방법을 통하여, 제품 수준 생산 스케줄링의 최적화에 필수적인 데이터 기반 제품 시퀀스 및 스케줄 예측 모델을 개발할 수 있다. 이러한 예측 모델은 유연 생산시스템에서 불확실성으로 야기되는 비패턴적이고 미지적으로 보이는 제품 시퀀스를 패턴적이고 기지적 형태로 변환해준다.

Variable selection in multicategory angle-based classification

강지원 Graduate School, Korea University 2020 국내석사

다범주분류(multiclass classification)는 다양한 실제 문제에서 자주 접하게 된다. 이때 일반적으로 일대일 또는 일대다 접근법으로 알려진 이항분류자를 반복적으로 적용함으로써 분류를 수행한다. 그러나, 이러한 접근법은 실제 응용에서 몇 가지 문제점을 가지고 있다. Zhang and Liu (2014) 는 다범주분류를 동시에 다루기 위한 방법의 하나로서 다범주 각도-기반 분류기(multicategory angle-based classifier)를 제안하였다. 본 논문에서는 선형 다범주 각도-기반 분류기에 대한 변수선택 방법을 다루었다. 구체적으로는, 하나의 설명변수에 대한 계수들을 동시에 0으로 만드는 그룹라쏘(group lasso) 접근법을 적용하였다. 또한 모의실험을 통해 기존의 그룹라쏘 기반 방법과 본 연구에서 제안한 방법의 성능을 비교하였다. Multiclass classifications are frequently encountered in various applications. However, only few works directly tackle the multicategorical nature, since multiclass classification can be readily solved by repeatedly applying binary classifiers known as one-versus-one and one-versus-rest approaches. However, these approaches can suffer in practice. Zhang and Liu (2014) proposed the multicategory angle-based classifier, an elegant framework to directly tackle the multiclass classification. In this article, we study the variable selection for the linear multicategory angle-based classifier. To be specific, we employ the group lasso penalty to simultaneously shrink the coefficients corresponding to the same variable towards the zero. Our limited numerical examples show that the proposed method performs better than competing methods.

(The) use of support vector machines in semi-supervised classification

배현주 Graduate School, Korea University 2020 국내석사

Semi-supervised learning has gained a great attention in recent appli- cations. In this article, we review some popular semi-supervised methods, and propose a simple but effective algorithm for semi-supervised classifica- tion based on Support Vector Machine (SVM). The idea is simple as follows. First we apply the k-means clustering to the unlabeled observations and assign labels based on the estimated clusters. SVM is then employed to both of the labeled and unlabeled data to obtain the classification boundary. Due to the use of the SVM, we can readily extend it to the nonlinear classification via kernel trick. Our limited numerical experiments under various scenarios show that our method is promising in semi-supervised classification. 최근 응용 분야에서 준지도 학습 방법은 큰 주목을 받아왔다. 해당 논문에서 는 현존하는 대표적인 준지도 학습 방법을 요약하고 서포트 벡터 머신을 활용한 간단하면서도 효과적인 준지도 분류 알고리즘을 제안하고자 한다. 알고리즘의 과정은 다음과 같이 이루어진다. 우선 라벨 결측 관측치에 k-평균 군집화를 적 용하고 추정된 군집을 기반으로 라벨을 부여한다. 그 이후 라벨 데이터와 라벨 결측 데이터 모두를 활용해 서포트 벡터 머신으로 분류 경계를 찾는다. 위의 알고리즘은 서포트 벡터 머신과 커널 함수를 활용해 비선형 분류까지 확장가능 하다. 다양한 설정 하에서의 몇몇 실험들을 통해 준지도 학습 분류에서의 제안된 방법의 효과성을 보여준다.

Adaptive ridge procedure for L0-penalized quantile regression

이준수 Graduate School, Korea University 2020 국내석사

본 논문은 Adaptive Ridge Procedure (AR procedure)를 이용한 AR-L0 벌점화 분위수 회귀를 연구하였다. L0 벌점 함수는 모델 적합 과정에서 변수 선택을 함과 동시에 비편향 추정치를 제공한다는 확실한 이점이 있지만 원점에서 불연속이며 볼록 함수가 아니기에 계산상의 큰 어려움이 있다. 이 문제를 해결하기 위해 선행 연구되었던 AR procedure를 이용하여 근사 L0 벌점 함수를 구현하였고 분위수 회귀에 적용하였다. 모의실험과 실제 데이터 분석에서는 기존에 분위수 회귀분석에 적용되었던 LASSO, SCAD, SELO 벌점 함수와 제안하는 AR-L0 벌점 함수를 비교하였고 성능을 확인할 수 있었다. In this paper, we studied AR-L0 penalized quantile regression using Adaptive Ridge Procedure (AR procedure). The L0 penalty has the obvious advantage of variable selection and unbiased, but it is difficult to calculate because it is discontinuous at the origin. To solve the computational difficulty of the L0 penalty function, an approximate L0 penalty was implemented using the AR procedure proposed by Frommlet and Nuel (2016) and applied to quantile regression. In the simulation, the LASSO, SCAD, and SELO penalties applied to quantile regression were compared with the proposed AR-L0 penalty, and the performance was confirmed

(A) model-free soft classification with a functional predictor

이유진 Korea University 2019 국내석사

본 논문은 함수형 데이터가 독립변수로 사용되는 경우 확률값을 도출하는 새로운 방법론을 제안하였다. 본 방법론은 연속적인 가중치 값을 함수형 가중 서포트 벡터 머신에 적합하여 확률값을 도출하였으며 이는 손실함수의 피셔 일관성(Fisher consistency) 성질로 뒷받침된다. 본 방법론은 비모수적 방법이기에 유연하고 복잡한 모델 구축이 가능하며 연산의 효율성을 갖추었다. 또한 쌍별 결합(pairwise coupling) 알고리즘을 사용해 이진 분류에서 나아가 다범주 분류에도 적용이 가능하게 되었다. 모의 실험에서는 기존의 확률 추정방법론인 로지스틱 방법과 본 논문에서 제안한 방법 간의 비교를 통해 성능을 입증하였으며 실제 데이터 적합을 통해 적용 가능성을 확인하였다.

아파트 매매 실거래가를 이용한 군집 분석 : 정책 분석을 통해 도출한 변수를 이용하여

박상묵 고려대학교 정책대학원 2020 국내석사

본 연구는 정부의 부동산 대책을 분석하여 도출한 변수를 이용하여 서울의 아파트 유형을 구분하고 정책의 영향을 실증 분석하였다는데 의미가 있다. 그러나 국토교통부 실거래가 공개 시스템에서 제공되는 기본적인 매매 정보를 통해 얻어지는 변수만을 활용하였기에 기본적인 매매거래의 특성 외의 내용은 반영하기 어려웠다. 특히 9.13 대책이 2주택자 이상, 임대사업자에 대한 항목이 많았음에도 불구하고 이를 이용한 변수를 적용하지 못하였다는 점에서 매우 아쉬운 점 중의 하나라 할 수 있다. 또한 공간적으로 서울의 아파트만 고려했다는 점은 본 연구의 한계라 할 수 있다. 따라서 실거래가를 이용한 아파트의 군집화에 대한 연구는 수도권 또는 전국을 대상으로 하는 연구가 추가적으로 이루어질 필요가 있다. 9.13 대책의 정부 목표는 주택시장의 안정화와 실수요자 보호였다. 이를 위해 조세 정의를 구현하고 투기 수요를 억제하겠는 것이었다. 그러나 1년이 지난 지금 서울의 모습은 정부의 의도와는 다소 차이가 있어 보인다. 전세가와 매매가 모두 상승하는 모습이다. 서울의 아파트 거래량은 과거와 비교해 매우 적다. 왜 거래량은 없는데 가격은 상승하는 이런 현상이 나타나고 있는 것일까. 9.13 대책으로 인해 매도와 매수 모두 동인을 잃었기 때문이라 해석된다. 다주택자에겐 매도할 수 없는 제도를, 무주택자에겐 대출 규제로 매수할 여력이 없는 조건이 부여되었다. 규제 중심의 대책으로 인해 투기 수요 억제의 목적은 달성했지만, 실수요자들이 소외되었다. 부동산은 여러 지표나 상황에 민감한듯 보이지만, 실상은 주요 변곡점마다 적절한 정부 정책이 있었다. 이번에도 정부가 지난 1년을 돌아보며, 자료에 근거하여 현실의 상황을 보다 과학적으로 분석하여, 실수요자를 위한 보다 세밀화 된 정책을 수립하길 기대한다.

(A) logrank test based feature screening for ultrahigh-dimensional survival data

오희준 Graduate School, Korea University 2020 국내석사

In this paper, we propose a feature screening method for ultrahigh-dimensional data with censored response utilizing the logrank test. This method divides a covariate into several pieces and successively conducts the logrank test to compare survival functions between the piece that contains the index and the rest. This process is model-free and can be applied to different types of covariates, such as continuous and categorical. Furthermore, numerical simulation and real data analysis, we demonstrate the superior performance of the proposed method over existing screening methods. 본 논문은 초고차원 데이터에서 반응변수에 중도절단이 포함된 경우 변수 스크리닝 (feature screening) 으로 로그-순위 검정 (Logrank test)을 활용한 방법을 제안한다. 본 방법은 공변량을 몇 개의 조각으로 나눈 뒤 인덱스를 포함하는 조각과 나머지 조각들의 생존 함수를 비교하는 로그-순위 검정을 연속적으로 시행하여 결과를 종합한다. 이 과정에서 특정한 모형을 가정하지 않으며 연속형, 범주형 등 다양한 유형의 공변량에 적용할 수 있다. 모의 실험과 실제 데이터 분석을 통해 기존에 알려진 변수 스크리닝 방법들과 제안하는 방법의 성능을 비교하여 우수한 성능을 입증하였다.

스마트공장에서의 시스템 통합을 위한 객체홀론의 경량적 표현 및 운영방법

정여진 부경대학교 2018 국내석사

4차 산업혁명으로 제조업의 중요성이 대두되면서 스마트공장의 보급을 위해 세계 각국에서 다양한 연구들이 진행중이다. 유연하고 효율성 있는 스마트공장의 고도화를 위해서는 물리-가상 제조객체간 양방향 미러링을 통한 사이버-물리 제조시스템의 개발이 필요하다. 사이버-물리 제조시스템상에서 제조객체들의 자율적·협업적 공정수행을 위해서는 제조객체들간의 상호 정보교류가 필수적이나, 다수의 그리고 이질적인 표현방법으로 인하여 제조객체 자체에 대한 정보교환이 원활히 이루어지지 못하였다. 본 논문에서는 제조객체들의 개방적 정보 교류 및 공유를 위하여 JSON(Java Script Object Notation)이라는 경량적이고 표준적인 방법을 이용하여 제조객체들을 구조화하고 표현하는 방법을 설계한다. 이를 위하여, 본 논문에서는 홀로닉 제조 패러다임에 입각하여 각 제조객체에 대한 데이터·워크플로우·메시지 모델을 설계한다. 또한, 스마트공장에서의 막힘없는 제조객체 정보교환을 수행하는 시제품을 구현한다. 이를 통하여, 제조객체 표현에 대한 단순성, 범용성, 개방성 및 상호운용성을 확보함으로써, 이기종 스마트공장 시스템들의 표준기반 통합을 가능하게 한다. As the competitiveness of manufacturing increasingly becomes significant to cope with the era of the fourth industrial revolution, a lot of researches have been strived to develop and deploy Smart Factory. For the pursuit of Smart Factory which ensures flexibility and efficiency in manufacturing, it is vital to develop Cyber-Physical Production Systems (CPPS) that embody bi-directional mirroring between physical and cyber manufacturing objects. CPPS are recognized as the advanced model of Smart Factory in that they enable manufacturing objects to perform autonomous and collaborative decision-making. In CPPS, the information exchange in-between the objects is a fundamental requirement; however, it shows a limitation due to various and heterogeneous representations about the objects. This thesis presents the design of a structural and unique representation method that provides manufacturing objects with an open and seamless information exchange environment using Java Script Object Notation (JSON), which is a light-weight data interchange format. For such the purpose, this thesis includes the design of manufacturing objects’ data, workflow and message models under the paradigm of Holonic Manufacturing Systems. It also includes a prototype implementation to demonstrate the feasibility and validity of the proposed models. The deliverable of the present work is expected to facilitate the systems integration in heterogeneous smart factory systems through gaining simplicity, commodity, openness and interoperability on manufacturing objects’ representation.

(A) two-step approach for variable selection in linear regression with measurement error

송지연 Korea University 2017 국내석사

In high dimensional data analysis, it is often of a primary interest to identify informative variables. However, when covariates are contaminated by measurement error, it becomes a challenging task due to the bias induced by the measurement error. In this article, we present a two-step approach for variable selection in the presence of measurement error. In the first step, we directly select important variables from the contaminated covariates as if there is no measurement error. We then apply, in the following step, orthogonal regression to obtain the unbiased estimates of regression coefficients identified in the previous step. In addition, we propose a modification of the two-step approach to further enhance variable selection performance. Various simulation studies demonstrate the promising performance of the proposed method. 고차원 데이터 분석에서 정보 변수를 식별하는 것은 매우 주요하게 다뤄지고 있다. 하지만 공변량이 측정오차와 함께 관측된 경우, 측정오차로 인해 발생하는 편의때문에 변수 선별이 어려워진다. 본 논문은 측정오차가 있는 선형모형에서 사용할 수 있는 2단계 변수 선별 방법을 제시하였다. 첫 번째 단계에서는 측정오차로 오염된 공변량을 가지고 주요 변수를 선택하고, 두 번째 단계에서는 선택된 변수들을 가지고 직교 회귀 계수를 구한다. 또한 본 논문은 변수 선별 알고리즘의 성능을 개선하고자 수정된 2단계 변수 선별 방법을 제시하였다. 다 양한 상황의 모의 실험을 통해 제안한 방법의 적용 가능성을 확인하였다.

국내/외 주가지수 간 동태적 상관관계 분석 : vector auto-regreesive[i.e. regressive] 모형을 활용하여

이재명 고려대학교 2018 국내석사

국내외 주가지수 간 상호작용에 관한 분석을 위해 먼저 후보군 6개 국가의 주가지수 중 단위근 검정 수행이 적절하다고 판단되는 4개 지수에 대해서 단위근 검정을 수행하였고, 그 결과 공적분 검정을 위한 I(1) 과정을 만족하는 3개 지수를 대상으로 가능한 모든 경우의 수에 대해 공적분 검정을 수행하였다. 그 결과 KOSPI200, EuroStoxx50 2개 지수 간 공적분 관계가 존재하는 것으로 나타났다.