(An) efficient CPU frequency scaling method for I/O-intensive workloads

국문 초록 (Abstract)

최근 대규모 언어 모델(LLM)을 포함한 인공지능 기술의 확산으로 데이터센터의 전력 소모와 탄소 배출이 증가하고 있다. 기존 리눅스 CPU 거버너는 CPU 부하 중심으로 주파수를 조정하기 때문에, I/O 대기 시간이 크거나 저장장치 병목이 발생하는 환경에서는 비효율적인 주파수 제어가 이루어질 수 있다.
본 연구에서는 I/O 워크로드 특성을 반영하여 CPU 주파수를 동적으로 조정함으로써, 성능을 유지하면서 운영 탄소 배출량을 저감하는 주파수 제어 기법을 제안한다. 먼저, 커널 수준에서 I/O 처리량 변화와 iowait 정보를 기반으로 주파수를 결정하는 IO-Gov를 설계하였다. 또한, 커널 수정 없이 eBPF 계층에서 I/O 지연을 관찰하고 병목 상태에 따라 주파수를 적응적으로 제어하는 eBPF-Gov를 제안하였다. 더 나아가, 두 기법의 상호 보완적인 특성을 결합한 하이브리드 주파수 거버너 HIO-Gov를 제시하여, 실행 중 관측되는 병목 양상에 따라 제어 경로를 동적으로 선택하도록 하였다.
제안한 접근 방식은 I/O 중심 워크로드 환경에서 불필요한 주파수 상승을 억제하고, 커널 수준 제어와 외부 관측 기반 제어를 결합한 주파수 제어 구조의 유효성을 보여준다. 다양한 I/O 워크로드를 대상으로 기존 리눅스 CPU 거버너와 비교한 결과, IO-Gov와 eBPF-Gov는 성능을 유지하면서 운영 탄소 배출량을 감소시켰으며, 이들을 통합한 HIO-Gov는 실행 중 병목 특성에 따라 제어 경로를 선택함으로써 워크로드 특성에 따라 추가적인 운영 탄소 저감 효과를 보였다.

다국어 초록 (Multilingual Abstract)

The proliferation of artificial intelligence technologies, including large language models (LLMs), has led to a continuous increase in power consumption and carbon emissions in data centers. Conventional Linux CPU governors primarily adjust CPU frequency based on CPU utilization, which can result in inefficient frequency control in environments with high I/O wait time or storage-side bottlenecks.
In this paper, we propose CPU frequency control mechanisms that dynamically adapt CPU frequency based on I/O workload characteristics to reduce operational carbon emissions while preserving performance. First, we design IO-Gov, a kernel-level governor that determines CPU frequency using I/O throughput variation and iowait information. We also propose eBPF-Gov, which operates without kernel modification and adaptively controls CPU frequency by observing I/O latency and storage bottlenecks in the eBPF layer. Furthermore, we introduce HIO-Gov, a hybrid frequency governor that integrates the complementary characteristics of IO-Gov and eBPF-Gov and dynamically selects the control path according to the observed bottleneck behavior during execution.
The proposed approach demonstrates the effectiveness of a frequency control structure that suppresses unnecessary frequency scaling in I/O-centric workloads by combining kernel-level control with external observation–based control. Experimental comparisons with existing Linux CPU governors across diverse I/O workloads show that IO-Gov and eBPF-Gov reduce operational carbon emissions while maintaining performance. Moreover, the hybrid governor HIO-Gov extends the potential for operational carbon reduction by dynamically selecting the control path according to runtime bottleneck characteristics.

목차 (Table of Contents)

• 1. Introduction 1
• 2. Background 5
• 2.1 Linux CPU Governors 5
• 2.2 Prior Research on DVFS-Based CPU Governors 6
• 2.3 Limitations of Prior I/O-Aware DVFS Approaches 8
• 2.4 I/O Latency and CPU Frequency Scaling 10
• 2.5 Evaluation of I/O Performance and Operational Carbon Emissions in Conventional Governors 12
• 2.6 eBPF 14
• 2.7 Evaluation of DVFS Governors in I/O-Bound Environments 15
• 3. Design and Implementation of IO-Gov 18
• 3.1 Measurement of I/O Throughput Variation Rate 19
• 3.2 Frequency Scaling Algorithm 19
• 3.3 Implementation 22
• 4. Design and Implementation of eBPF-Gov 23
• 4.1 System Overview 23
• 4.2 eBPF-Driven I/O-Aware Dynamic Frequency Scaling 25
• 5. Performance Evaluation 29
• 5.1 Experimental Environment 29
• 5.2 IO-Gov Results 30
• 5.2.1 FIO 30
• 5.2.1 MySQL 33
• 5.3 eBPF-Gov Results 35
• 5.3.1 FIO 35
• 5.2.2 RocksDB 40
• 5.2.3 MySQL 42
• 5.4 Integrated Analysis and Hybrid Governor Design 44
• 5.4.1 Comparative Analysis of IO-Gov and eBPF-Gov 44
• 5.4.2 FIO 46
• 5.4.3 RocksDB 48
• 5.4.4 MySQL 50
• 6. Conclusion 53
• References 56
• Korean Abstract 60