From Clinical Summaries to Language Education: LLM-Driven Multi-Objective Text Optimization = 임상 요약에서 언어 교육까지: LLM 기반 다목적 텍스트 최적화

다국어 초록 (Multilingual Abstract)

The growing demand for accessible medical communication and adaptive language learning systems highlights the need for text generation methods that balance readability, semantic fidelity, and accuracy. This thesis proposes a unified, automated framework that integrates large language models (LLMs), multi-objective optimization, and clustering to enable controllable and interpretable text generation across domains.

The medical discharge summaries are generated using a Llama LLM through diverse decoding strategies, producing multiple candidate summaries. These candidates are automatically evaluated by GPT-4 across six quality dimensions—clarity, accuracy, coverage, coherence, completeness, and overall quality—forming a generator–evaluator pipeline that enables high-quality summary selection without manual annotation. The selected summaries are further refined using a multi-objective optimization framework based on NSGA-II, jointly minimizing standard readability indices to improve patient accessibility and the number of lexical substitutions to preserve clinical fidelity. Experiments on discharge notes from the MIMIC-IV dataset demonstrate consistent improvements in readability across multiple metrics while maintaining semantic integrity.

This optimization strategy is extended to the educational domain to support progressive vocabulary learning. From English reading comprehension texts, synonym-based lexical variants are generated and optimized with competing objectives of readability and semantic preservation. Pareto-optimal variants are then clustered to organize texts into three proficiency levels: Beginner, Intermediate, and Advanced, without requiring annotated simplification corpora.

Together, these contributions establish a generalizable framework for controllable text generation that bridges healthcare communication and language education. By combining LLM-based generation with principled optimization and structured organization of text variants, the proposed approach enables the scalable production of accessible, reliable, and pedagogically meaningful content for real-world applications.

국문 초록 (Abstract)

본 논문은 대규모 언어 모델(LLM), 다목적 최적화, 그리고 클러스터링 기법을 통합한 자동화된 통합 프레임워크를 제안하여, 다양한 도메인에서 제어 가능하고 해석 가능한 텍스트 생성을 가능하게 한다. 의료 정보 전달의 접근성과 적응형 언어 학습 시스템에 대한 수요가 증가함에 따라, 가독성, 의미 보존성, 정확성을 균형 있게 만족하는 텍스트 생성 방법의 중요성이 대두되고 있기 때문이다.

의료 도메인에서는 LLaMA 계열 언어 모델을 활용하여 다양한 디코딩 전략을 적용함으로써 복수의 의료 퇴원 요약문 후보를 생성한다. 생성된 후보 요약문들은 GPT-4를 평가기로 활용하여 명확성, 정확성, 정보 포괄성, 일관성, 완결성, 전반적 품질의 여섯 가지 기준에 따라 자동 평가되며, 이를 통해 수작업 주석 없이도 고품질 요약문을 선택하는 생성–평가 파이프라인을 구성한다. 이후 선택된 요약문에 대해 NSGA-II 기반의 다목적 최적화를 적용하여, 환자 친화적 접근성을 향상시키기 위한 가독성 지표 최소화와 임상적 의미 보존을 위한 어휘 치환 수 최소화를 동시에 수행한다. MIMIC-IV 퇴원 기록을 대상으로 한 실험 결과, 제안된 방법은 의미적 충실성을 유지하면서도 다양한 가독성 지표 전반에서 일관된 개선 효과를 보였다.

제안된 최적화 전략은 교육 도메인으로 확장되어 단계적 어휘 학습을 지원한다. 영어 독해 텍스트를 기반으로 동의어 치환을 통해 다양한 어휘 변형 문장을 생성하고, 가독성과 의미 보존이라는 상충 목적을 기준으로 최적화한다. 이후 파레토 최적 해 집합을 클러스터링하여 초급, 중급, 고급의 세 가지 숙련도 수준으로 텍스트를 구성함으로써, 주석된 단순화 코퍼스 없이도 체계적인 학습 진행을 가능하게 한다.

본 연구는 의료 커뮤니케이션과 언어 교육을 연결하는 범용적이고 확장 가능한 텍스트 생성 프레임워크를 제시한다. LLM 기반 생성, 원칙적인 다목적 최적화, 그리고 구조화된 텍스트 조직 기법을 결합함으로써, 실제 환경에서 활용 가능한 접근성 높고 신뢰성 있으며 교육적으로 의미 있는 콘텐츠를 대규모로 생성할 수 있음을 입증한다.

목차 (Table of Contents)

• I. Introduction 1
• 1.1 Overview 1
• 1.2 Large Language Models 2
• 1.3 Multi-objective Optimization 3
• 1.4 Research Objectives 4
• 1.5 Thesis Outline 4
• 1.6 Thesis Contributions 5
• II. Background 7
• 2.1 Large Language Models 7
• 2.1.1 Text Summarization 8
• 2.1.2 LLM as an Evaluator 9
• 2.1.3 Text Simplification 11
• 2.2 Text Readability Metrics 12
• 2.3 MOO for Text Simplification and Readability 15
• 2.4 Progressive Vocabulary Learning 18
• III.LLM-based Summary Generation and Evaluation 21
• 3.1 Overview 21
• 3.2 Dataset and Preprocessing 22
• 3.2.1 Dataset 22
• 3.2.2 Data Preprocessing 23
• 3.3 Methodology 24
• 3.3.1 Summarization Input and Prompt 24
• 3.3.2 Summary Generation Pipeline 27
• 3.3.3 Evaluation Input and Prompt 28
• 3.3.4 Summary Evaluation Pipeline 30
• 3.3.5 Optimal Summary Selection 31
• 3.4 Experiment Study 33
• 3.4.1 Experimental Setup 33
• 3.4.2 Results 33
• 3.5 Summary 38
• IV. Readability Optimization for Medical Discharge Summaries 40
• 4.1 Overview 40
• 4.2 Data 41
• 4.2.1 Input Dataset 41
• 4.2.2 Substitution Datasets 42
• 4.3 Methodology 43
• 4.3.1 Readability Optimization using MOO 44
• 4.3.2 Objective Functions 46
• 4.3.3 Substitution Mechanism 48
• 4.3.4 Pareto Front Generation 49
• 4.3.5 Optimal Summary Selection 50
• 4.4 Experimental Setup and Results 50
• 4.4.1 Experimental Setup 51
• 4.4.2 Results and Analysis 52
• 4.4.3 Discussion 58
• 4.5 Summary 60
• V. Progressive Vocabulary Learning using Pareto-Optimal Clustering . 62
• 5.1 Overview 62
• 5.2 Data 64
• 5.2.1 Source Texts 64
• 5.2.2 Synonym Resource 64
• 5.3 Methodology 65
• 5.3.1 Problem Formulation 65
• 5.3.2 Pareto Front Generation 67
• 5.3.3 Clustering of Text Variants 67
• 5.3.4 Cluster Analysis and Representative Selection 69
• 5.4 Experiments and Results 69
• 5.4.1 Experimental Setup and Metrics 70
• 5.4.2 Results and Discussion 71
• 5.5 Summary 77
• VI. Conclusion and Future Work 78
• 6.1 Conclusion 78
• 6.2 Future Work 79
• References 82
• Abstract (In English) 92
• Abstract (In Korean) 94