TON(To Offload or Not): GPGPU 응용의 더 나은 수행 성능을 위한 오프로딩 결정 모델 = TON(To Offload or Not): An Offloading Decision Model for Better Performance in GPGPU Applications

국문 초록 (Abstract)

본 논문에서는 기존 오프로딩 결정 모델을 개선한 GPGPU 오프로딩 결정 모델을 제안한다. 개선된 오프로딩 결정 모델은 GPGPU 응용의 오프로딩 수행 시 발생할 수 있는 추가적인 오버헤드를 고려하고 있다. 즉, 네트워크 대역폭과 데이터 크기에 따른 네트워크 전송 시간 뿐만 아니라 로컬과 원격지간의 메시지 전달 횟수에 따른 네트워크 지연시간의 오버헤드를 포함하고 있고, 또한 원격수행을 지원하기 위한 추가적인 오프로딩 인터페이스 오버헤드 역시 포함하고 있다. 행렬 곱 32 × 32 워크로드의 경우 기존 오프로딩 결정 모델에서 실제수행 시간과 약 2.75배의 차이를 보였지만, 개선된 오프로딩 결정 모델에선 실제 수행 시간과의 차이가 약 1.1배로 개선되었다. 이러한 실제 수행과의 시간차이를 줄이는 것은 더욱 정밀한 오프로딩 결정을 가능하게 한다.

다국어 초록 (Multilingual Abstract)

In this paper, we proposed GPGPU offloading decision model improving conventional offloading decision model. The GPGPU offloading decision model considers additional overhead which can be occurred when the offloading is conducted, i.e. it includes not only network transfer time corresponding to network bandwidth and data size, but also network latency overhead corresponding to the number of message transfer. Moreover, it includes offloading interface overhead. In case of 32 × 32 matrix multiplication workload, while conventional offloading decision model shows 2.75 times difference compared to actual execution, the offloading decision model reduces the difference from 2.75 times to 1.1 times between calculated time and actual execution time. It means that offloading decision is conducted precisely, through GPGPU offloading decision model.

목차 (Table of Contents)

• 요약
• Abstract
• 1. 서론
• 2. 기초지식 및 관련연구
• 3. 오프로딩 워크로드 오버헤드 요소 분석
• 4. GPGPU 오프로딩 결정 모델
• 5. 실험
• 6. 결론
• References

참고문헌 (Reference)

1 Lin Shi, "vCUDA: GPU accelerated high performance computing in virtual machines" 1-11, 2009

2 Jose Duato, "rCUDA: Reducing the number of GPU-based accelerators in high performance clusters" 224-231, 2010

3 Shucai Xiao, "VOCL: An optimized environment for transparent virtualization of graphics processing units" 1 (1): 1-12, 2012

4 Wolski R, "Using bandwidth data to make computation offloading decisions" 1-8, 2008

5 Nimmagadda Y, "Realtime moving object recognition and tracking using computation offloading" 2449-2455, 2010

6 Vishakha Gupta, "GViM, GPU-accelerated virtual machines" 17-24, 2009

7 Hong YJ, "Energy efficient contentbased image retrieval for mobile systems" 1673-1676, 2009

8 "CES 2012"

9 O’Hara KJ, "Autopower: toward energy-aware software systems for distributed mobile robots" 2757-2762, 2006

10 Xian C, "Adaptive computation offloading for energy conservation on battery-powered systems" 1-8, 2007

11 Karthik Kumar, "A Survey of Computation Offloading for Mobile Systems" 18 : 129-140, 2013