PSA(Personalized Stability Algorithm)를 적용한 개인화 의료 LLM 챗봇의 안정성 향상 = Improving the stability of personalized medical LLM chatbot using the PSA

국문 초록 (Abstract)

본 연구는 고위험 의료 환경에서 대규모 언어모델(LLM)의 판단 안정성과 책임성을 강화하기 위한 새로운 안정성 향상 알고리즘인 PSA(Personalized Stability Algorithm)를 제안한다. 기존의 RLHF(Reinforcement Learning from Human Feedback), 규칙 기반 필터링, RAG(Retrieval-Augmented Generation) 기반 안전성 접근법은 언어적 표현을 감소시키는 데는 효과적이나, 모델 내부의 판단 구조에서 발생하는 논리–감정 충돌, 시간 경과에 따른 위험 민감도 변화, 그리고 모델의 책임성 지속성을 보장하지 못한다. 이에 본 연구는 언어모델의 내부 인지 흐름을 구조적으로 제어하는 방식의 새로운 아키텍처를 설계하여 이러한 한계를 극복하고자 한다.

본 연구에서 제안한 PSA는 LLM 내부에서 위험 판단을 수행하는 논리 경로(Analytical Path)와 환자 맥락에 따른 공감적 반응을 생성하는 감정 경로(Emotional Path)를 분리한 뒤, 두 출력을 안정적으로 통합하는 통합 모델(Decision Integrator)로 구성된다. 특히 PSA는 환자의 위험도, 과거 병력의 인과 관계, 시간 경과 정보를 기반으로 어텐션 가중치를 동적으로 조절하는 개인화 어텐션(Personalized Attention) 메커니즘을 핵심 요소로 도입하였다. 이를 위해 본 연구는 시간–인과–위험 민감도(TCKM)에 기반한 Base 모델, 인과적 헤드 게이팅(CHG), 다중 평면 시계열 바이어스(MPTB) 등 세 가지 확장 기법을 설계하여, 모델이 환자별로 다른 패턴의 위험 신호를 적응적으로 반영할 수 있도록 하였다.

본 연구 실험에서는 300명 규모의 환자 데이터를 활용하여 PSA의 효과를 평가하였다. 평가 지표로는 논리·감정 경로 정렬을 측정하는 CAS(Causal Alignment Score), 인지적 불안정성을 나타내는 USI(Unstable State Index), 위험 상황에서의 감정 편차를 나타내는 FSA(Forced Stability Alignment)를 사용하였다. 그 결과 CHG 모델은 인과 관계 기반 위험 추론에서 가장 높은 정확도를 보였으며, MPTB 모델은 시간 경과에 따른 위험 민감도를 가장 안정적으로 반영함을 확인하였다. 또한 PSA 전체 구조를 적용했을 때 기존 Baseline 대비 Σ(인지적 불안정성)가 유의하게 감소하였으며, 히스테리시스 기반 책임성 누적 메커니즘을 통해 모델이 위험 판단 오류 이후 일정 기간 더 보수적인 상태를 유지함을 관찰할 수 있었다. 추가적으로, PSA는 기존 듀얼-LLM 구조 대비 계산 자원 사용량과 지연 시간을 크게 줄이는 효과를 보였다. 이는 논리·감정 경로를 하나의 통합 구조(FKCA: Fused Kernel Cognitive Architecture) 내에서 계산하도록 재배치한 결과이며, 의료 환경에서 요구되는 실시간 처리 조건을 충족하는 데 중요한 의미를 가진다.

본 연구에서는 단순한 출력 규제나 사후 필터링을 넘어, LLM의 내부 판단 구조를 직접 제어하는 새로운 안전성 강화 패러다임을 제시한다는 점에서 학술적·실무적 기여도가 크다.

결론적으로 본 연구는 LLM이 의료·응급·상담과 같은 고위험 도메인에서도 안전하고 책임 있는 판단을 수행할 수 있는 인지적 기반을 제공하며, 향후 AI 안전성 연구의 새로운 방향성을 제시한다.

목차 (Table of Contents)

• 목 차 ⅰ
• 그림 목차 ⅰⅰⅰ
• 표 목 차 ⅰv
• 국문 요지 v
• 제 1장 서론 1
• 1.1 연구 배경 1
• 1.2 연구 동기 및 문제 제기· 4
• 1.3 연구 목적 7
• 1.4 연구 범위 8
• 제 2장 배경·10
• 2.1 의료 도메인 대규모 언어모델 활용 10
• 2.2 선행 연구 12
• 2.2.1 의료 AI 안전성 연구 동향· 12
• 2.2.2 인지 제어 연구 흐름 13
• 2.2.3 개인화된 어텐션 제어 연구 동향· 13
• 2.3 PSA의 필요성 14
• 제 3장 모델 설계· 16
• 3.1 시스템 구조 16
• 3.2 통합 아키텍처 19
• 3.2.1 논리 모델 19
• 3.2.2 감정 모델 24
• 3.2.3 통합 모델 29
• 제 4장 성능 평가· 34
• 4.1 실험 환경 및 시나리오 33
• 4.1.1 데이터셋 및 전처리 34
• 4.1.2 비교 모델 및 설정· 35
• 4.1.3 실험 시나리오 36
• 4.2 성능 개선 36
• 4.2.1 Base모델 하이퍼파라미터 최적화 37
• 4.2.2 CHG모델 최적화 39
• 4.2.3 MPTB 모델 최적화 41
• 4.2.4 세 모델 비교 및 종합 분석 43
• 제 5장 결론 45
• 5.1 결론45
• 참고문헌 49
• Abstract 51
• 감사의 글 53