다국어 BERT를 활용한 한국어 자연어 질의의 SQL 변환 = Text-to-SQL for Korean Language based on Multilingual BERT

다국어 초록 (Multilingual Abstract)

Text-to-SQL is one of semantic parsing methods that converts natural language questions into SQL queries, and it aims to extract data from any relational database without knowledge of SQL query configuration. Although development of large amounts of datasets (WikiSQL, SPIDER) and development of pre-trained language models (BERT) contributed to the improvement of Text-to-SQL performance in English, language-specific dataset construction and model research have not been much progressed. Therefore, this study proposes a multilingual BERT-based Text-to-SQL methodology that converts the natural language question in Korean into SQL query for an English database. To this end, four strategies for translating Korean queries into English were explored, and their effectiveness was verified by applying each strategy to three text-to-SQL model structures. As a result of the experiment, it was confirmed that it showed a significant SQL generation performance even for Korean questions. The proposed methodology is meaningful in that it shows semantic inferences between database tables, column information, and questions composed of different languages are possible, and it is expected to support efficient database access by Korean users who lack proficiency in writing SQL queries.

국문 초록 (Abstract)

Text-to-SQL은 자연어 질문을 SQL 쿼리로 변환하는 의미 분석 중 하나로서, 임의의 관계형 데이터베이스에 대하여 SQL쿼리 구성에 대한 지식 없이 데이터를 추출하는 데 목적이 있다. 대량의 데이터셋(WikiSQL, SPIDER) 배포와 사전 학습 언어 모델(BERT)의 발전은 Text-to-SQL 성능 향상에 기여했지만, 한국어 데이터셋 구축과 모델 연구는 진행되지 않고 있다. 이에 본 연구는 영어로 된 데이터베이스에 대하여 한국어로 질의 된 요구사항을 SQL로 변환해주는 다국어 BERT 기반의 Text-to-SQL 방법론을 제안한다. 이를 위하여 본 연구에서는 한국어 질의를 영어로 번역하는 네 가지 전략을 탐색하고 각 전략을 세 가지 Text-to-SQL 모델 구조에 적용하여 그 효과를 검증하였다. 실험 결과 한국어 질의에 대해서도 유의미한 SQL 생성 성능을 나타내는 것을 확인하였다. 제안한 방법론은 다른 언어로 구성된 데이터베이스 테이블, 컬럼 정보와 질문 간의 의미론적 추론이 가능함을 보여주었다는 것에 의의가 있으며, SQL 쿼리 작성 숙련도가 부족한 한국어 사용자들의 효율적인 데이터베이스 접근을 지원할 수 있을 것으로 기대된다.

목차 (Table of Contents)

• 1 서론 1
• 2 대표적 Text-to-SQL 데이터셋 및 모델 4
• 2.1 Text-to-SQL 데이터셋 . . . . . . . . . . . . . . . . . . . . 4
• 2.1.1 WikiSQL . . . . . . . . . . . . . . . . . . . . . . . 4
• 2.1.2 SPIDER . . . . . . . . . . . . . . . . . . . . . . . . 6
• 2.2 Text-to-SQL 모델 . . . . . . . . . . . . . . . . . . . . . . . 6
• 2.2.1 SQLova . . . . . . . . . . . . . . . . . . . . . . . . 7
• 2.2.2 HydraNet . . . . . . . . . . . . . . . . . . . . . . . 9
• 2.2.3 Bridge . . . . . . . . . . . . . . . . . . . . . . . . . 11
• 2.2.4 Execution Guided Decoding (EG) . . . . . . . . . 13
• 3 한국어 WikiSQL 데이터셋 구축 15
• 4 Experiments 21
• 4.1 실험 설계 . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
• 4.1.1 다국어 언어 모델 . . . . . . . . . . . . . . . . . . . 21
• 4.1.2 Text-to-SQL 평가 지표 . . . . . . . . . . . . . . . . 22
• 4.1.3 데이터 셋 설명 . . . . . . . . . . . . . . . . . . . . 23
• 4.2 번역 방식에 따른 성능 평가 . . . . . . . . . . . . . . . . . 24
• 4.3 Top-k 성능 평가 . . . . . . . . . . . . . . . . . . . . . . . . 26
• 4.4 역번역 WikiSQL 데이터 셋 . . . . . . . . . . . . . . . . . . 28
• 5 결론 32
• 참고 문헌 35