NFVAgent : harnessing LLM for NFV resilience

다국어 초록 (Multilingual Abstract)

Automation in Network Function Virtualization (NFV) management has become increasingly vital as networks grow in scale and complexity. Traditional NFV management, which relies on predefined policies and manual interventions, struggles to keep up with dynamic network conditions, often resulting in slow and inefficient responses to failures. Moreover, the growing diversity of NFV deployments further limits the flexibility and scalability of existing solutions. Considering these limitations, we explore Large Language Model (LLM) agent approaches by harnessing the reasoning and decision-making capabilities of LLMs, and present NFVAgent, an LLM-driven NFV recovery framework.
In NFVAgent, the LLM directly analyzes operation issues and derives appropriate recovery actions, thereby enhancing resilience under dynamic network conditions. While this LLM agent appears structurally feasible, its practical effectiveness is limited by the fact that LLMs lack prior training on diverse NFV environments. To overcome this, NFVAgent is built on Retrieval-augmented Generation (RAG) and advances autonomous recovery by incorporating a continuously evolving NFV knowledge base, updated through interactions with a separate testbed environment. This structured knowledge integration of NFVAgent enables the LLM to dynamically adopt relevant domain-specific knowledge and refine its contextual understanding on NFV failures and potential recovery strategies.
We evaluated NFVAgent in 500 failure cases across four NFV environments, specifically configured with several industry standards such as Open Network Automation Platform (ONAP), European Telecommunications Standards Institute (ETSI), and Open Radio Access Network (O-RAN), demonstrating its effectiveness in enhancing NFV resilience across diverse network conditions and failure events. NFVAgent achieves up to 99.8% pass rate, outperforming policy-based methods with an average improvement of 37.7% in multi-tenant and 16% in single-tenant environments.

국문 초록 (Abstract)

네트워크의 규모와 복잡성이 증가함에 따라 Network Function Virtualization (NFV) 관리의 자동화는 점점 더 중요해지고 있습니다. 기존의 NFV 관리 방식은 사전에 정의된 정책과 수동 개입에 의존하기 때문에, 동적인 네트워크 조건에 효과적으로 대응하지 못하고 장애에 대한 반응이 느리고 비효율적인 경우가 많습니다. 특히 NFV 배포 환경의 다양성이 증가함에 따라 기존 솔루션의 유연성과 확장성에도 한계가 존재합니다. 이러한 한계를 극복하기 위해, 본 연구에서는 대형 언어 모델 (Large Language Model, LLM)의 추론 및 의사결정 능력을 활용하는 LLM 에이전트 기반 접근법을 탐색하고, LLM 기반 NFV 복구 프레임워크인 NFVAgent를 제안합니다.
NFVAgent는 LLM이 직접 운영 이슈를 분석하고 적절한 복구 조치를 도출함으로써, 동적인 네트워크 환경에서도 높은 복원력을 제공합니다. 그러나 LLM은 다양한 NFV 환경에 대한 사전 학습이 부족하기 때문에, 실제 적용 시 효과가 제한적일 수 있습니다. 이를 해결하기 위해 NFVAgent는 Retrieval-Augmented Generation (RAG) 구조를 기반으로 하며, 별도의 테스트베드 환경과의 상호작용을 통해 지속적으로 업데이트되는 NFV knowledge base를 통합하여 자율 복구 기능을 고도화합니다. 이러한 구조화된 지식 통합을 통해 LLM은 NFV 장애 및 복구 전략에 대한 도메인 지식을 동적으로 수용하고, 맥락에 기반한 이해를 정교화할 수 있습니다.
NFVAgent는 Open Network Automation Platform (ONAP), European Telecommunications Standards Institute (ETSI), Open Radio Access Network (O-RAN) 등 여러 산업 표준을 기반으로 구성된 네 가지 NFV 환경에서 총 500건의 장애 사례를 통해 평가되었습니다. 그 결과, 다양한 네트워크 조건과 장애 상황에서도 NFVAgent는 높은 복원력을 보였으며, 최대 99.8%의 복구 성공률을 기록하였고, 기존 정책 기반 방식 대비 multi-tenant 환경에서 평균 37.7%, single-tenant 환경에서 평균 16%의 성능 향상을 달성하였습니다.

목차 (Table of Contents)

• 1. Introduction 1
• 2. Related Works 5
• 2.1 Network Automation 5
• 2.2 Artificial Intelligence for IT Operations 7
• 2.3 API calls with LLM 9
• 3. Preliminaries 10
• 3.1 Large Language Model 10
• 3.2 Network Function Virtualization 11
• 4. Our Approach 12
• 4.1. The NFVAgent framework 12
• 4.2. Feasibility DB 14
• 4.3. NFV environment simulator 16
• 5. Evaluation 17
• 5.1. Experimental Setup 18
• 5.2. Single-tenant Tests 23
• 5.3. Multi-tenant Tests 27
• 5.4. Adaptability to unforeseen events 31
• 6. Analysis 32
• 6.1. Unseen Event Scenario 32
• 6.2. Ablation study 35
• 6.3. Model Substitution 36
• 7. Conclusion 37
• 7.1. Contribution 37
• 7.2. Limitation 38
• 7.3. Future Work 38
• References 40
• Korean Abstract 45