동시에 실행되는 워크로드 조합에 따른 GPGPU 성능 분석

국문 초록 (Abstract)

GPGPU의 높은 연산 처리 능력을 활용하여 길고 복잡한 계산을 하려는 시도가 많이 있다. GPGPU 프로그램의 특성상 host와 device 사이에 메모리 복사가 필요하다. 해당 메모리 복사 latency가 길 경우 프로그램의 성능에 많은 영향을 준다. 그래서 GPGPU를 활용한 프로그래밍은 최적화에 따른 성능 차이가 크다. 여러 개의 GPGPU 프로그램을 동시에 실행시키면 메모리 복사와 GPGPU 컴퓨팅이 중첩이 되어 메모리 복사 latency hiding 효과를 기대할 수 있다. 이 논문에서는 메모리 복사 latency hiding 을 분석한다. 또 메모리 복사의 성능을 높이기 위해 pinned memory를 사용했을 경우의 제약 조건에 따른 성능 예측 모델링 및 알고리즘을 제안하고 이를 바탕으로 실행할 워크로드를 선택하면 41%의 성능 향상을 보인다.

다국어 초록 (Multilingual Abstract)

Many studies have utilized GPGPU (General-Purpose Graphic Processing Unit) and its high computing power to compute complex tasks. The characteristics of GPGPU programs necessitate the operations of memory copy between the host and device. A high latency period can affect the performance of the program. Thus, it is required to significantly improve the performance of GPGPU programs by optimizations. By executing multiple GPGPU programs simultaneously, the latency hiding effect of memory copy is achieved by overlapping the memory copy and computing operations in GPGPU. This paper presents the results of analyzing the latency hiding effect for memory copy operations. Furthermore, we propose a performance anticipation model and an algorithm for the limitations of using pinned memory, and show that the use of the proposed algorithm results in a 41% performance increase.

목차 (Table of Contents)

• 요약
• Abstract
• 1. 서론
• 2. GPGPU 성능 분석
• 3. Pinned memory 사용 시 성능향상의 모델링
• 4. 결론
• References

참고문헌 (Reference)

1 CHE, S, "Rodinia: A benchmark suite for heterogeneous computing" 44-54, 2009

2 "OpenMP"

3 Khronos, "OpenCL"

4 NVIDIA, "How to Optimize Data Transfers in CUDA C/C++"

5 Belviranli, Mehmet E, "CuMAS: Data Transfer Aware Multi-Application Scheduling for Shared GPUs" 2016

6 Nvidia, "Compute unified device architecture programming guide Version 2.0"

7 NVIDIA, "CUDA Toolkit Documentation"