대학생들의 중도 탈락 예측을 위한 신경망과 그레디언트 부스팅 머신의 성능 비교 = Performance Comparison of Neural Network and Gradient Boosting Machine for Dropout Prediction of University Students

다국어 초록 (Multilingual Abstract)

Dropouts of students not only cause financial loss to the university, but also have negative impacts on individual students and society together. To resolve this issue, various studies have been conducted to predict student dropout using machine learning. This paper presents a model implemented using DNN (Deep Neural Network) and LGBM (Light Gradient Boosting Machine) to predict dropout of university students and compares their performance. The academic record and grade data collected from 20,050 students at A University, a small and medium-sized 4-year university in Seoul, were used for learning.
Among the 140 attributes of the collected data, only the attributes with a correlation coefficient of 0.1 or higher with the attribute indicating dropout were extracted and used for learning. As learning algorithms, DNN (Deep Neural Network) and LightGBM (Light Gradient Boosting Machine) were used.
Our experimental results showed that the F1-scores of DNN and LGBM were 0.798 and 0.826, respectively, indicating that LGBM provided 2.5% better prediction performance than DNN.

참고문헌 (Reference)

1 김재현, "전문대학생의 개인, 교육기관, 사회적 변인과 중도탈락의도의 위계적 관계" 한국직업교육학회 30 (30): 249-266, 2011

2 양자영 ; 문경희 ; 박성호, "인공지능을 이용한 학습부진 특성 추출 및 예측 모델 연구" 한국정보통신학회 26 (26): 510-518, 2022

3 황철현, "이상 데이터를 활용한 성과부진학생의 조기예측성능 향상" 한국정보통신학회 26 (26): 1608-1614, 2022

4 이현진, "오토인코더에 기반한 딥러닝을 이용한 사이버대학교 학생의 학업 성취도 예측 분석 시스템 연구" 한국디지털콘텐츠학회 19 (19): 1115-1121, 2018

5 김종만 ; 이동철, "연관관계 규칙을 이용한 학생 유지율 관리 방안연구" 한국산업정보학회 23 (23): 67-77, 2018

6 박철, "사이버대학 중도탈락 개선을 위한 예측모형 개발" 한국산학기술학회 21 (21): 380-390, 2020

7 정선호, "분류 기법을 활용한 대학생 중도탈락 예측모형 개발" 미래융합통섭학회 5 (5): 174-185, 2022

8 이훈병, "대학에서 학습부진 학습자 진단을 위한 주요인 분석" 인문사회 21 7 (7): 653-672, 2016

9 서은희 ; 김은영, "대학생의 학사경고 예측요인 탐색: 학교참여도 변인을 중심으로" 한국콘텐츠학회 21 (21): 469-476, 2021

10 문기범 ; 김진원 ; 이진숙, "대용량 LMS 로그 데이터를 이용한 심층신경망 기반 대학생 학업성취 조기예측 모델" 한국콘텐츠학회 21 (21): 1-10, 2021

11 ROC, "Wikipedia"

12 Sunbok Lee, "The Machine Learning-Based Dropout Early Warning System for Improving the Performance of Dropout Prediction" MDPI AG 9 (9): 3093-, 2019

13 N. V. Chawla, "SMOTE: Synthetic Minority Over-sampling Technique" AI Access Foundation 16 : 321-357, 2002

14 G. Ke, "LightGBM: A highly efficient gradient boosting decision tree"

15 "Google Keras"

16 "Exponential smoothing"

17 Hee Sun Park, "Early Dropout Prediction in Online Learning of University using Machine Learning" Politeknik Negeri Padang 5 (5): 347-353, 2021

18 Wanli Xing, "Dropout Prediction in MOOCs: Using Deep Learning for Personalized Intervention" SAGE Publications 57 (57): 547-570, 2018

19 Jürgen Schmidhuber, "Deep learning in neural networks: An overview" Elsevier BV 61 : 85-117, 2015

20 J. Lee, "A study on the prediction model for student dropout" 25 (25): 37-40, 2018