CPC: A File I/O Cache Management Policy for Compute-Bound Workloads

반효경 한국인터넷방송통신학회 2022 Journal of Advanced Smart Convergence Vol.11 No.2

With the emergence of the new era of the 4th industrial revolution, compute-bound workloads with large memory footprint like big data processing increase dramatically. Even in such compute-bound workloads, however, we observe bulky I/Os while loading big data from storage to memory. Although file I/O cache plays a role of accelerating the performance of storage I/O, we found out that the cache hit rate in such environments is not improved even though we increase the file I/O cache capacity because of some special I/O references generated by compute-bound workloads. To cope with this situation, we propose a new file I/O cache management policy that improves the cache hit rate for compute-bound workloads significantly. Trace-driven simulations by replaying file I/O reference logs of compute-bound workloads show that the proposed cache management policy improves the cache hit rate compared to the well-acknowledged CLOCK algorithm by a large margin.

Application-Adaptive Performance Improvement in Mobile Systems by Using Persistent Memory

반효경 한국인터넷방송통신학회 2019 Journal of Advanced Smart Convergence Vol.8 No.1

In this article, we present a performance enhancement scheme for mobile applications by adopting persistent memory. The proposed scheme supports the deadline guarantee of real-time applications like a video player, and also provides reasonable performances for non-real-time applications. To do so, we analyze the program execution path of mobile software platforms and find two sources of unpredictable time delays that make the deadline-guarantee of real-time applications difficult. The first is the irregular activation of garbage collection in flash storage and the second is the blocking and time-slice based scheduling used in mobile platforms. We resolve these two issues by adopting high performance persistent memory as the storage of real-time applications. By maintaining real-time applications and their data in persistent memory, I/O latency can become predictable because persistent memory does not need garbage collection. Also, we present a new scheduler that exclusively allocates a processor core to a real-time application. Although processor cycles can be wasted while a real-time application performs I/O, we depict that the processor utilization is not degraded significantly due to the acceleration of I/O by adopting persistent memory. Simulation experiments show that the proposed scheme improves the deadline misses of real-time applications by 90% in comparison with the legacy I/O scheme used in mobile systems.

메모리 관리 기술을 활용한 IPTV 채널 탐색 인터페이스의 효율성 분석

반효경 한국인터넷방송통신학회 2019 한국인터넷방송통신학회 논문지 Vol.19 No.6

Recently, due to the rapid improvement of communication technologies as well as the easy production of video contents, IPTV is becoming increasingly popular. Meanwhile, as the number of IPTV channels increases rapidly, much time is required for finding the user’s desired channel. This paper discusses and analyzes the effectiveness of reducing IPTV channel searching delays by using memory management techniques of computer systems. Specifically, this paper introduces how memory management techniques such as memory replacement, prefetching, and caching techniques can be adopted in IPTV channel searching interfaces by mapping between the two problems and discusses the effectiveness of the techniques. 최근 비디오 콘텐츠의 손쉬운 제작 및 통신 기술의 급격한 발전으로 IPTV의 수요가 지속적으로 증가하고 있다. 한편, IPTV 채널의 수가 급격히 증가하면서 사용자의 채널 탐색에 많은 시간이 소요되고 있다. 본 논문은 컴퓨터 시스템의 메모리 관리 기술들을 활용하여 IPTV 채널 탐색 지연을 줄이는 방안을 논의하고 그 효용성을 분석한다. 구체적으로는 메모리 관리 기술로 널리 활용되어 온 메모리 교체 기법과 사전인출 기법, 그리고 캐슁 기법 등을 IPTV 채널 탐색문제에 매핑하여 메모리 관리 기술이 어떻게 채널 탐색 인터페이스에 활용될 수 있는지를 소개하고 그에 따른 성능 개선효과에 대해 논의한다.

가상화 환경에서 고속 스토리지를 위한 워크로드 맞춤형 페이지 크기 모델링

반효경,박윤주 한국인터넷방송통신학회 2022 한국인터넷방송통신학회 논문지 Vol.22 No.3

Recently, fast storage media such as Optane have emerged, and memory system configurations designed for disk storage should be reconsidered. In this paper, we analyze the effect of the page size on the memory system performances when fast storage is adopted. Based on this, we design a page size model that can guide an appropriate page size for given workloads in virtualized environments. Configuring different page sizes for various workloads is not an easy matter in traditional systems, but due to the widespread adoption of cloud systems, page sizing performed in our model is feasible for virtual machines, which are generated for executing specific workloads. Simulation experiments under various virtual machine scenarios show that the proposed model improves the memory access time significantly by configuring page sizes for given workloads. 최근 옵테인 등 고속 스토리지의 출현으로 하드디스크에 적합하게 설계된 메모리 시스템 설정에 대한 재고가필요한 시점에 이르렀다. 본 논문에서는 고속 스토리지의 탑재에 따라 페이지 크기가 메모리 시스템의 성능에 어떠한영향을 미치는지를 분석하고, 가상화 환경에서 워크로드 상황에 맞게 페이지 크기를 설정할 수 있는 모델을 설계하였다. 전통적인 시스템의 경우 워크로드 별로 페이지 크기를 설정하는 것이 쉬운 일이 아니지만 최근 클라우드 환경의 활성화로 개별 워크로드 수행을 위해 별도의 가상머신이 생성되므로 가상머신이 시작될 때 해당 가상머신의 페이지 크기를결정할 수 있어 제안한 모델의 효용이 높을 것으로 기대된다. 다양한 가상머신 시나리오에 대한 시뮬레이션 실험을 통해제안한 모델이 워크로드 상황에 맞게 페이지 크기를 설정하여 메모리 접근 시간을 크게 개선함을 보인다.

인메모리 파일시스템을 위한 효율적인 메타데이터 저널링 기법

반효경 한국인터넷방송통신학회 2023 한국인터넷방송통신학회 논문지 Vol.23 No.3

저널링 기법은 파일시스템을 크래쉬 상황으로부터 보호하여 일관성 있는 상태로 유지하기 위해 널리 사용되고있다. 한편, 기존의 저널링 기법들은 하드디스크와 같은 블록 스토리지를 위해 설계되었기 때문에 바이트 단위 접근이가능한 영속 메모리 상에서의 저널링에 활용하기에는 비효율적이다. 본 논문은 크래쉬 상황으로부터 파일시스템의 일관성이 깨어지는 것을 방지하는 기능을 가진 메타데이터 저널링 기법을 인메모리 파일시스템에 기반해 설계하는 방법을 제안한다. 제안하는 기법은 바이트 단위 접근이 가능한 메모리 미디어의 특성을 활용하여 저널링이 발생시키는 많은 쓰기량을줄일뿐 아니라 입출력 시 통과해야 하는 무거운 소프트웨어 스택을 제거하는 장점을 가진다. IOzone 벤치마크를 이용한성능 측정 실험을 통해 제안하는 저널링 기법이 Ext4의 저널링과 비교해서 평균 49.2%의 성능 개선 효과가 있음을 보인다.

Energy-Efficient Last-Level Cache Management for PCM Memory Systems

반효경 한국인터넷방송통신학회 2022 International Journal of Internet, Broadcasting an Vol.14 No.1

The energy efficiency of memory systems is an important task in designing future computer systems as memory capacity continues to increase to accommodate the growing big data. In this article, we present an energy-efficient last-level cache management policy for future mobile systems. The proposed policy makes use of low-power PCM (phase-change memory) as the main memory medium, and reduces the amount of data written to PCM, thereby saving memory energy consumptions. To do so, the policy keeps track of the modified cache lines within each cache block, and replaces the last-level cache block that incurs the smallest PCM writing upon cache replacement requests. Also, the policy considers the access bit of cache blocks along with the cache line modifications in order not to degrade the cache hit ratio. Simulation experiments using SPEC benchmarks show that the proposed policy reduces the power consumption of PCM memory by 22.7% on average without degrading performances.

Effect of Caching and Prefetching Techniques to Accelerate Channel Search Latency in IPTVs

반효경 한국인터넷방송통신학회 2022 International Journal of Internet, Broadcasting an Vol.14 No.2

Due to the recent advances in high-speed communication technologies as well as the easy production of high-quality video contents, IPTV is becoming increasingly popular. Meanwhile, as the number of IPTV channels increases, channel search time to find the desired channel keeps increasing. In this paper, we discuss how to improve the channel search latency in IPTV, and introduce caching and prefetching techniques that are widely used in memory management systems. Specifically, we adopt memory replacement, prefetching, and caching techniques in IPTV channel search interfaces and show the effectiveness of these techniques as the number of channels are varied.

효율적인 IPTV 채널 탐색을 위한 채널 재배치 및 프리페칭 기법

반효경 한국인터넷방송통신학회 2016 한국인터넷방송통신학회 논문지 Vol.16 No.3

IPTV가 인터넷 상의 대표적인 서비스 중 하나로 자리매김하면서, IPTV 사용자 및 채널의 수가 급격히 증가하고 있다. 하지만, 늘어난 채널들로 인해 IPTV 사용자가 원하는 채널을 시청하기 위해 더욱 많은 탐색 시간을 필요로 하고 있다. 또한, IPTV는 채널 변경시마다 인터넷을 통한 컨텐츠 전송시간이 소요되어 전파를 이용하는 지상파 방송보다 많은 채널 스위치 시간이 소요된다. 이러한 문제점을 해소하기 위해, 본 논문에서는 채널 프리페칭과 재배치 기법을 혼합하는 방식을 제안한다. 시뮬레이션 실험을 통해 인접 채널 프리페칭 기법에 인기도 기반의 교대배치 기법을 결합할 경우 기존의 채널 탐색 인터페이스에 비해 채널 탐색 시간을 평균 44.7% 줄일 수 있음을 보인다. As IPTV has become one of the major Internet services, IPTV users and channels increase rapidly. However, the increased number of channels makes users difficult to find their desired channels. Along with this, the channel switching time of IPTV incurs serious user-perceived delay. To alleviate these problems, this paper presents hybrid schemes that combine channel prefetching and reordering schemes. Simulation experiments show that combining adjacency based prefetching and popular channel reordering reduces the channel seek time by up to 44.7% in comparison with the conventional channel seeking interfaces.

스토리지 쓰기량과 페이지 폴트를 줄이는 메모리 부하 적응형 페이지 교체 정책

반효경,박윤주 한국인터넷방송통신학회 2022 한국인터넷방송통신학회 논문지 Vol.22 No.6

최근 상변화메모리와 같은 고속 스토리지 매체의 출현으로 느린 디스크 스토리지에 적합하게 설계된 메모리관리 기법에 대한 재고가 필요한 시점에 이르렀다. 본 논문에서는 상변화메모리를 가상메모리의 스왑장치로 이용하는시스템을 위한 새로운 페이지 교체 정책을 제안한다. 제안하는 방식은 페이지 교체 정책이 전통적으로 추구하던 페이지폴트 횟수 절감뿐 아니라 스왑 장치에 발생하는 쓰기량 절감을 동시에 추구한다. 이는 상변화메모리의 쓰기 연산이 느리고 쓰기 횟수에 제한이 있다는 점에 착안한 것이다. 구체적으로 살펴보면 메모리 부하가 높은 경우 페이지 폴트를 줄이는 데에 초점을 맞추고 메모리 공간에 여유가 있을 경우 스토리지 쓰기량을 줄이는 적응적인 방식을 채택한다. 이를통해 제안하는 정책이 메모리 시스템의 성능을 저하시키지 않으면서 스토리지 쓰기량을 크게 절감함을 다양한 워크로드의 메모리 참조 트레이스를 재현하는 시뮬레이션 실험을 통해 보인다.

모바일 기기의 실시간 작업 지원을 위한 종단간 자원 관리 기술

반효경,Bahn, Hyokyung 한국인터넷방송통신학회 2022 한국인터넷방송통신학회 논문지 Vol.22 No.5

최근 모바일 기기의 성능이 급격히 향상되고 다양한 앱이 등장하면서 대화형 작업뿐 아니라 실시간 작업을 동반하는 앱이 늘고 있다. 한편, 실시간 작업은 데드라인 제약 조건이 있어 종래의 시분할 시스템이 추구하던 자원 관리 정책으로는 실시간 제약 조건을 만족하는 데에 한계가 있다. 본 논문에서는 모바일 기기에서 대화형 작업과 실시간 작업이 동시에 실행될 때 CPU, 메모리, 스토리지로 이어지는 종단간 자원 관리를 어떻게 함으로써 실시간 작업의 제약 조건을 만족하면서 자원의 효율적인 관리가 가능한지에 대해 알아본다. 본 논문에서는 복잡한 자원관리 정책의 제안보다 각 자원들이 실시간 작업의 조건을 만족하기 위해 필요한 기본 개념에 대해 살펴보는 데에 초점을 맞춘다. CPU의 경우 실시간 작업을 위한 전담코어 할당, 메모리의 경우 워킹셋의 일정 비율을 보장하는 방식, 스토리지의 경우 고속 스토리지를 사용하고 문맥교환을 생략하는 방식 등 기본적인 지원 방안을 알아보고 이를 어떻게 효율화할 수 있는지에 대해 알아본다.