검색 증강 생성에서 동적 문서 파라미터화를 위한 추론 증류 연구 = Reasoning Distillation for Dynamic Document Parameterization in Retrieval-Augmented Generation

다국어 초록 (Multilingual Abstract)

Retrieval-Augmented Generation (RAG) typically appends retrieved documents to the prompt, which increases the cost of self-attention and can reduce the model’s ability to reliably use evidence in long contexts. To address this issue, we propose Dynamic Reasoning-Aware Parametric RAG, which converts retrieved documents into document-conditioned LoRA parameters and injects them into the model weights rather than the input context. The proposed method uses teacher-generated answers and explanatory reasoning as distillation signals, and adopts a two-stage curriculum that progresses from single-document to multi-document settings to improve training stability. Across four open-domain question answering benchmarks, our approach is competitive with strong dynamic baselines and shows its largest gains on long-tail and compositional question datasets. Ablation studies show that the benefit of reasoning supervision is sensitive to the backbone’s capacity and reasoning quality, and is most pronounced for sufficiently capable language models.

국문 초록 (Abstract)

검색 증강 생성(Retrieval-Augmented Generation, RAG)은 검색 문서를 프롬프트에 직접 추가하기 때문에 입력 컨텍스트가 길어질수록 self-attention 계산 비용이 증가하고, 장문 컨텍스트에서 근거를 안정적으로 활용하기 어려워진다. 본 논문은 이러한 문제를 해결하기 위해, 검색 문서를 입력 컨텍스트 대신 문서 조건부 LoRA 파라미터로 변환하여 모델 가중치에 주입하는 Dynamic Reasoning-Aware Parametric RAG를 제안한다. 제안 방법은 교사 모델이 생성한 정답과 설명적 추론을 증류 신호로 사용하며, 단일 문서에서 다중 문서로 확장되는 2단계 커리큘럼을 통해 학습 안정성을 확보한다. 네 가지 오픈 도메인 질의응답 벤치마크에서 제안 방법은 강력한 동적 베이스라인과 비교해 전반적으로 경쟁력 있는 성능을 보이며, 특히 희소한(long-tail) 지식 및 복합 질의에서 가장 큰 향상을 보인다. 또한 소거 실험을 통해 추론 신호의 효과가 백본의 용량과 추론 품질에 민감하며, 충분히 강한 모델에서 복합 추론 성능을 더 크게 향상시킨다는 점을 확인하였다.

목차 (Table of Contents)

• 1 Introduction 1
• 2 RelatedWork 5
• 2.1 Retrieval-AugmentedGenerationandDocumentCompression 5
• 2.2 ParametricRAG:Document-to-ParameterApproaches 6
• 3 ProposedMethod 8
• 3.1 TeacherReasoningDataGeneration 9
• 3.2 Document-conditionedParameterGeneration 10
• 3.3 Question-onlyGenerationandReasoning-styleDistillation 12
• 3.4 Two-StageCurriculumTraining 12
• 3.5 Inference 13
• 4 Experiments 15
• 4.1 ExperimentalSetup 15
• 4.1.1 Datasets 15
• 4.1.2 Baselines 18
• 4.1.3 TrainingSetup 20
• 4.1.4 Evaluation 20
• 4.2 MainResults 21
• 4.3 AblationStudy 22
• 5 Conclusion 27
• Bibliography 29
• Abstract 32