Mechanistic Understanding and Prediction of Drug-Drug Interactions in Humans using LLM-based Multimodal Explainable Framework = 기전적 이해 기반 인체 내 약물상호작용 예측을 위한 설명가능한 다중모달 대형언어모델 프레임워크|RISS 상세보기

다국어 초록 (Multilingual Abstract)

Accurately predicting clinically relevant drug–drug interactions (DDIs) remains a persistent challenge due to the complexity of pharmacokinetic or pharmacodynamic mechanisms, sheer number of drug combinations to consider, and limited throughput of experiment-based DDI investigations. Although machine learning (ML)-driven approaches have been developed to address such limitations, these approaches have limited capacity for translating preclinical evidence and processing the high dimensionality of multimodal drug information. Moreover, prediction models trained on samples of drug combinations whose evidence of DDI is not known have limited applicability due to the issue of positive unlabeled data. Here, I present DDI-Expert, a Mixture-of-Experts (MoE)–based large language model framework designed to predict and explain the mechanisms of pharmacokinetic DDIs (PK DDIs), using heterogeneous multimodal drug features. To this end, using transfer learning on foundation models (i.e., BioClinical ModernBERT and T5), in which I inserted MoE architecture, I adapted the models to the prediction and explanation of PK DDI mechanisms, given multimodal drug characteristics of a drug pair. I further applied continual learning via Low-Rank Adaptation (LoRA) to incorporate human PK DDI evidence while mitigating catastrophic forgetting. I additionally employed conformal prediction to identify statistically reliable and minimally sufficient protein inputs, addressing the substantial noise introduced by drugs with a large number of associated features. DDI-Expert outperformed baseline models, including classical state-of-the-art machine learning approaches using structural information, LLMs without domain adaptation, and early-fusion multimodal models, across classification and explanation generation tasks. The MoE architecture enabled efficient multimodal integration with minimal overfitting, while the Noisy Top-K router ensured balanced expert utilization. Conformal prediction yielded compact, mechanistically relevant input subsets (approximately 3 proteins per drug) that improved in-context learning accuracy and reduced computational cost by up to 40-fold compared with using all inputs. LoRA-based continual learning surpassed retrieval-augmented generation (RAG) by providing robust domain-, class-, and task-incremental adaptation scenarios, enabling DDI-Expert to learn new human-specific labels and acquire an entirely new task—predicting AUC fold-change—without degrading prior knowledge. Model inspection revealed high explainability, strong semantic fidelity of generated explanations, and correct mechanistic reasoning even for less common PK processes (i.e., changes in the rate of excretion). These findings demonstrate that integrating MoE architecture, conformal prediction, and LoRA-based continual learning provides a scalable, interpretable, and clinically transferable framework for the prediction and explanation of PK DDIs in humans. These findings may enable a practical clinical decision-support tool for identifying high-risk drug combinations in patients on complex drug regimens. Moreover, this framework can enable early identification of DDI risks in humans and prioritization of DDI experimental studies in drug development.

번역하기

국문 초록 (Abstract)

임상적으로 의미 있는 약물–약물 상호작용(drug–drug interaction, DDI)을 정확히 예측하는 것은 약동학적 또는 약력학적 기전의 복잡성, 고려해야 할 약물 조합의 방대한 수, 그리고 실험 기반 DDI 연구의 제한된 처리 용량으로 인해 여전히 어려운 과제로 남아 있다. 이러한 한계를 극복하기 위해 기계학습(ML) 기반 접근법들이 제안되어 왔으나, 기존 방법들은 비임상(nonclinical) 근거를 임상적 맥락으로 효과적으로 전이하는 데 한계가 있으며, 고차원 다중모달 약물 정보를 충분히 활용하지 못하는 문제가 있다. 또한, DDI 발생 여부에 대한 근거가 명확하지 않은 약물 조합을 음성 표본으로 사용해 학습된 예측 모델은 양성–미표기(positive unlabeled) 데이터 문제로 인해 실제 임상 적용 가능성이 제한된다. 본 학위논문에서는 이와 같은 한계를 극복하기 위해, 이질적인 다중모달 약물 특성을 활용하여 약동학적 약물–약물 상호작용(pharmacokinetic DDI, PK DDI)의 기전을 예측하고 설명할 수 있는 Mixture-of-Experts(MoE) 기반 대규모 언어모델 프레임워크인 DDI-Expert를 제안한다. 이를 위해 BioClinical ModernBERT와 T5와 같은 파운데이션 모델에 MoE 구조를 삽입한 후 전이학습을 수행하여, 약물 쌍의 다중모달 약물 특성을 입력으로 PK DDI 기전의 예측 및 자연어 기반 설명이 가능하도록 모델을 도메인 적응시켰다. 더 나아가, 인간 대상 PK DDI 근거를 효과적으로 반영하면서도 기존 지식의 소실(catastrophic forgetting)을 방지하기 위해 저랭크 적응(Low-Rank Adaptation, LoRA)을 활용한 지속학습(continual learning) 전략을 적용하였다. 또한, 약물에 연관된 생체의학적 특성 수가 매우 많은 경우 발생하는 입력 잡음 문제를 해결하기 위해, 통계적으로 신뢰 가능하면서도 최소 충분성을 만족하는 단백질 입력을 선별하는 정합 예측(conformal prediction) 기반 입력 선택 기법을 도입하였다. 그 결과, DDI-Expert는 구조 정보에 기반한 기존 머신러닝 기반 예측 모델, 도메인 적응을 수행하지 않은 대규모 언어모델, 그리고 단순 조기 결합(early fusion) 방식의 다중모달 모델 대비 분류 및 기전 설명 생성 과제 전반에서 우수한 성능을 보였다. MoE 구조는 과적합을 최소화하면서 효율적인 다중모달 통합을 가능하게 하였으며, Noisy Top-K 라우터는 전문가 서브네트워크 간의 균형 잡힌 활용을 보장하였다. 정합 예측을 통해 약물당 평균 약 3개의 단백질로 구성된 기전적으로 관련성 높은 입력 부분집합을 도출할 수 있었으며, 이는 In-context 학습 정확도를 향상시키는 동시에 전체 입력을 사용하는 경우 대비 최대 40 배의 계산 비용 절감 효과를 보였다. 또한, LoRA 기반 지속학습은 검색 증강 생성(Retrieval-Augmented Generation, RAG) 방식보다 우수한 성능을 보이며, 도메인·클래스·과제 증가 상황에서의 강건한 적응을 가능하게 하였다. 이를 통해 DDI-Expert는 인간 특이적 DDI 레이블을 학습함과 동시에, AUC fold-change 예측이라는 새로운 회귀 과제를 기존 지식의 성능 저하 없이 성공적으로 습득할 수 있었다. 모델 분석 결과, DDI-Expert는 높은 설명 가능성을 보였으며, 생성된 기전 설명은 높은 의미적 충실도를 유지하였고, 비교적 드문 PK 과정(예: 배설 속도 변화)에 대해서도 올바른 기전적 추론을 수행함을 확인하였다. 이러한 결과는 MoE 구조, 정합 예측, 그리고 LoRA 기반 지속학습을 통합한 접근법이 인간에서의 PK DDI 예측 및 설명을 위한 확장 가능하고, 해석 가능하며, 임상적으로 전이 가능한 프레임워크임을 입증한다. 본 연구의 결과는 복합 약물 요법을 받는 환자에서 고위험 약물 조합을 식별하기 위한 실용적인 임상 의사결정 지원 도구 개발에 기여할 수 있으며, 나아가 신약 개발 과정에서 인간 대상 DDI 위험의 조기 식별 및 실험 연구 우선순위 설정을 가능하게 할 것으로 기대된다.

번역하기

임상적으로 의미 있는 약물–약물 상호작용(drug–drug interaction, DDI)을 정확히 예측하는 것은 약동학적 또는 약력학적 기전의 복잡성, 고려해야 할 약물 조합의 방대한 수, 그리고 실험 기반 DD...

목차 (Table of Contents)