NetCAS : dynamic cache and backend device management in networked environments

국문 초록 (Abstract)

현대 스토리지 시스템은 빠른 캐시 장치와 상대적으로 느린 백엔드 장치를 결합하여 I/O 성능을 향상시킨다. 그러나 최근에는 두 장치 간의 성능 격차가 줄어들면서, 단순히 캐시 히트에 의존하기보다 두 장치를 동시에 병렬적으로 활용하는 것이 더 높은 처리량을 제공할 수 있음이 밝혀지고 있다. 특히 데이터센터 환경에서는 백엔드 장치가 네트워크를 통해 원격으로 연결되기 때문에, 네트워크 혼잡이나 자원 경합에 따라 성능이 불안정하게 변동하는 문제가 존재한다.

본 연구에서는 이러한 문제를 해결하기 위해 NetCAS를 제안한다. NetCAS는 실시간 네트워크 피드백과 사전에 측정된 성능 프로파일(Perf Profile)을 기반으로, 캐시 장치와 백엔드 장치 간의 I/O를 동적으로 분할(Split)하는 프레임워크이다. 기존의 단순한 캐시 히트율 기반 정책과 달리, NetCAS는 워크로드 구성과 네트워크 상태 변화에 따라 최적의 분할 비율을 실시간으로 조정한다. 또한, 배치 기반 가중 라운드 로빈(Batched Weighted Round-Robin) 스케줄러를 도입하여, 요청 단위의 오버헤드를 최소화하면서도 정확한 비율 분배를 보장한다.
평가 결과, NetCAS는 원격 스토리지 환경에서 기존 캐싱 기법 대비 최대 174% 높은 성능을 달성하였으며, Orthus와 같은 정적 수렴형(converging) 기법 대비 최대 3.5배의 성능 향상을 보였다. 이를 통해 NetCAS는 네트워크 기반 스토리지 환경에서도 지속적이고 안정적인 고성능 I/O 처리를 가능하게 함을 입증하였다.

다국어 초록 (Multilingual Abstract)

Modern storage systems often combine fast cache with slower backend devices to accelerate I/O. As performance gaps narrow, concurrently accessing both devices, rather than relying solely on cache hits, can improve throughput. However, in data centers, remote backend storage accessed over networks suffers from unpredictable contention, complicating this split.
We present NetCAS, a framework that dynamically splits I/O between cache and backend devices based on real-time network feedback and a precomputed Perf Profile. Unlike traditional hit-rate-based policies, NetCAS adapts split ratios to workload configuration and networking performance. NetCAS employs a low-overhead batched round-robin scheduler to enforce splits, avoiding per-request costs. It achieves up to 174% higher performance than traditional caching in remote storage environments and outperforms converging schemes like Orthus by up to 3.5× under fluctuating network conditions.

목차 (Table of Contents)

• Chapter 1. Introduction 1
• Chapter 2. Background & Motivation 3
• 2.1. Shifting Device Asymmetries 3
• 2.2. Storage Disaggregations 4
• Chapter 3. Design & Implementation 6
• 3.1. Framework Requirements and Design 6
• 3.2. Measuring Performance Fluctuations 8
• 3.3. Performance Profile 9
• 3.4. Detecting Congestion 11
• 3.5. Calculating the Split Ratio 12
• 3.6. Selecting the Device 14
• 3.7. Integration and Footprint 16
• Chapter 4. Evaluation 19
• 4.1. Evaluation Setup 19
• 4.2. Baseline Performance 20
• 4.3. Performance Under Contention 21
• 4.4. Performance Across Contention Levels 23
• Chapter 5. Future Works 25
• Chapter 6. Conclusion 27
• Reference 28
• Abstract 33