GPU를 공유하는 컨테이너 환경에서 GPU 작업의 동시 실행을 위한 GPU 자원 경쟁 관리기법

강지훈,Kang, Jihun 한국정보처리학회 2022 정보처리학회논문지. 컴퓨터 및 통신시스템 Vol.11 No.10

컨테이너 기반 클라우드 환경은 다수의 컨테이너가 GPU(Graphic Processing Unit)를 공유할 수 있으며, GPU 공유는 GPU 자원의 유휴 시간을 최소화하고 자원 사용률을 향상할 수 있다. 하지만, GPU는 전통적으로 클라우드 환경에서 CPU, 메모리와는 다르게 컴퓨팅 자원을 논리적으로 다중화하고 사용자에게 자원 일부를 격리된 형태로 제공할 수 없다. 또한, 컨테이너는 GPU 작업을 실행할 때만 GPU 자원을 점유하며, 각 컨테이너의 GPU 작업 실행 시점이나 작업 규모를 미리 알 수 없기 때문에 자원 사용량 또한 미리 알 수 없다. 컨테이너가 GPU 자원을 임의의 시점에 제한없이 사용한다는 특징은 다수의 컨테이너가 GPU 작업을 동시에 실행하는 환경에서 자원 경쟁 상태 관리를 매우 어렵게 만들며, GPU 작업은 대부분 GPU 내부에서 블랙박스 형태로 처리되기 때문에 GPU 작업이 실행된 이후에는 GPU 자원 경쟁을 방지하는데 제한적이다. 본 논문에서는 다수의 컨테이너가 GPU 작업을 동시에 실행할 때 자원 경쟁으로 인해 발생하는 성능 저하를 방지하기 위한 컨테이너 관리기법을 제안한다. 또한, 본 논문에서는 실험을 통해 다수의 컨테이너가 GPU 작업을 동시에 실행할 때 자원 경쟁으로 인한 성능 저하 문제를 분석하고 제안하는 컨테이너 관리기법의 효율성을 증명한다. In a container-based cloud environment, multiple containers can share a graphical processing unit (GPU), and GPU sharing can minimize idle time of GPU resources and improve resource utilization. However, in a cloud environment, GPUs, unlike CPU or memory, cannot logically multiplex computing resources to provide users with some of the resources in an isolated form. In addition, containers occupy GPU resources only when performing GPU operations, and resource usage is also unknown because the timing or size of each container's GPU operations is not known in advance. Containers unrestricted use of GPU resources at any given point in time makes managing resource contention very difficult owing to where multiple containers run GPU tasks simultaneously, and GPU tasks are handled in black box form inside the GPU. In this paper, we propose a container management technique to prevent performance degradation caused by resource competition when multiple containers execute GPU tasks simultaneously. Also, this paper demonstrates the efficiency of container management techniques that analyze and propose the problem of degradation due to resource competition when multiple containers execute GPU tasks simultaneously through experiments.

CUDA 의 메모리 복사로 인한 성능 저하 연구

강지훈 ( Jihun Kang ),이대원 ( Daewon Lee ),강인성 ( Insung Kang ),유헌창 ( Heonchang Yu ) 한국정보처리학회 2013 한국정보처리학회 학술대회논문집 Vol.20 No.2

GPGPU(General Purpose Graphics Processing Unit) 병렬처리 시스템인 CUDA(Compute Unified Device Architecture)는 컴퓨터에서의 고속 연산 처리를 위해 많이 사용되어왔다. CUDA 에서 연산 처리를 하기 위해서는 CUDA 의 특성을 이해해야 한다. CUDA 는 CPU(Central Processing Unit)가 처리하는 Host영역과 GPU(Graphics Processing Unit)가 처리하는 영역인 Device 영역이 존재하며, 이 두 영역간의 데이터 복사를 통해 연산 처리를 진행한다. 이런 구조적인 특성상 메인 메모리에서 GPU 메모리로 입력 데이터를 전달해야 GPU 를 이용해 연산을 처리할 수 있는 구조를 가지고 있다. 하지만 이러한 처리 구조로 인해 연산 시간과 별도로 메인 메모리와 GPU 메모리간의 데이터 복사시간이 존재하며, 추가적으로 발생하는 메모리 복사 시간으로 인해 오버헤드가 발생하게 된다. 본 논문에서는 실험을 통해 메모리 복사 시간, 연산의 반복 횟수 그리고 연산의 복잡성이 전체 성능에 어떤 영향을 미치는지 논하고자 한다.

입자 추적 속도계(Shake-the-Box) 이용한 관 내 유동 타당성 연구

강지훈(Jihun Kang),하호진(Hojin Ha) 대한기계학회 2023 대한기계학회 춘추학술대회 Vol.2023 No.5

클라우드 환경에서 GPU 연산으로 인한 가상머신의 성능 저하를 완화하는 GPGPU 작업 관리 기법

강지훈 ( Jihun Kang ),길준민 ( Joon-min Gil ) 한국정보처리학회 2020 정보처리학회논문지. 컴퓨터 및 통신시스템 Vol.9 No.9

최근 클라우드 환경에서는 고성능 연산이 가능한 GPU(Graphics Processing Unit) 장치를 가상머신에게 적용한 GPU 클라우드 컴퓨팅 기술이 많이 사용되고 있다. 클라우드 환경에서 가상머신에게 할당된 GPU 장치는 대규모 병렬 처리를 통해 CPU보다 더 빠르게 연산을 수행할 수 있으며, 이로 인해 다양한 분야의 고성능 컴퓨팅 서비스들을 클라우드 환경에서 운용할 때 많은 이점을 얻을 수 있다. 클라우드 환경에서 GPU 장치는 가상머신의 성능 향상에 많은 도움을 주지만 가상머신의 CPU 사용 시간을 기반으로 작동하는 가상머신 스케줄러에서는 GPU 장치의 사용 시간이 고려되지 않아 다른 가상머신들의 성능에 영향을 미친다. 본 논문에서는 클라우드 환경에서 가상머신에게 GPU를 할당할 때 많이 사용되는 직접통로기반 GPU 가상화 환경에서 GPGPU(General-Purpose computing on Graphics Processing Units) 작업을 수행하는 가상머신으로 인한 다른 가상머신들의 성능 저하 현상을 검증하고 분석하며, 이를 해결하기 위한 가상머신의 GPGPU 작업 관리 기법을 제안한다. Recently, GPU cloud computing technology applying GPU(Graphics Processing Unit) devices to virtual machines is widely used in the cloud environment. In a cloud environment, GPU devices assigned to virtual machines can perform operations faster than CPUs through massively parallel processing, which can provide many benefits when operating high-performance computing services in a variety of fields in a cloud environment. In a cloud environment, a GPU device can help improve the performance of a virtual machine, but the virtual machine scheduler, which is based on the CPU usage time of a virtual machine, does not take into account GPU device usage time, affecting the performance of other virtual machines. In this paper, we test and analyze the performance degradation of other virtual machines due to the virtual machine that performs GPGPU(General-Purpose computing on Graphics Processing Units) task in the direct path based GPU virtualization environment, which is often used when assigning GPUs to virtual machines in cloud environments. Then to solve this problem, we propose a GPGPU task management method for a virtual machine.

가상화 환경에서 가상머신의 GPU 연산으로 인한 CPU 연산의 성능 저하 연구

강지훈 ( Jihun Kang ),최희석 ( Heeseok Choi ),문영주 ( Youngju Moon ),길준민 ( Joon Min Gil ),정광식 ( Kwangsik Chung ),유헌창 ( Heonchang Yu ) 한국컴퓨터교육학회 2016 한국컴퓨터교육학회 학술발표대회논문집 Vol.20 No.1

가상화 환경에서 GPU(Graphic Processing Unit) 장치의 적용은 가상머신의 연산 성능 향상을 위해 사용되는 방법 중 하나이다. GPU는 대규모 병렬처리를 통해 CPU(Central Processing Unit) 보다 더 높은 연산 성능을 달성하며, 이런 장점으로 인해 클라우드 서버에서도 GPU가 많이 적용되는 추세이다. 하지만 기존 가상화 환경에서 다수의 가상머신에게 자원 사용 시간을 공평하게 분배해주기 위해 자원 사용 시간 할당에 일반적으로 사용하는 시분할 스케줄링 기법은 CPU 자원 사용 시간만을 감안하며, 이러한 특성은 GPU 연산 작업같은 경우는 자원 사용시간에 포함되지 않아 다른 가상머신보다 더 많은 연산 기회를 얻게 되어 공평성이 깨지는 문제를 가지고 있다. 본 논문에서는 GPU 연산을 수행하는 가상머신과 CPU 연산을 수행하는 가상머신을 동시에 수행하고 성능 측정 실험을 통해 GPU 연산을 수행하는 가상머신이 CPU 연산을 수행하는 다른 가상머신들에게 미치는 영향을 분석한다.

가상화 환경에서 자원 사용량을 기반으로 하는 가상머신 유형분류 기법

강지훈 ( Jihun Kang ),박봉우 ( Bongwoo Bak ),이재학 ( Jaehak Lee ),이은영 ( Eunyoung Lee ) 한국정보처리학회 2018 한국정보처리학회 학술대회논문집 Vol.25 No.1

다수의 사용자가 자원을 공유하는 클라우드 센터에서는 자원 사용량 예측이 힘들기 때문에 지속적으로 가상머신의 자원 부족과 특정 물리 서버에 가상머신들이 집중되는 것을 방지하고자 클라우드 센터를 구성하는 다수의 물리 서버 사이에서 가상머신을 이주시키는 마이그레이션 작업을 수행한다. 가상머신 마이그레이션은 가상머신에게 할당된 자원의 규모에 따라 물리 서버에 가상머신을 균등하게 배치시킬 수 있지만 가상머신의 특정 자원에 따른 자원 집중 현상은 방지할 수 없다. 본 논문에서는 가상머신 마이그레이션 작업 시 자원 집중 현상을 방지하기 위한 기반 정보를 생성하는 가상머신 유형 분류 기법을 제안한다. 본 논문에서 제안하는 가상머신 유형분류 기법은 물리 서버에서 실행 중인 가상머신의 자원 사용 정보를 기반으로 CPU, 메모리 유형으로 분류하여 가상머신 마이그레이션을 수행할 때 사용할 수 있는 기반 정보를 제공한다. 또한 본 논문에서 제안한 기법은 실험을 통해 무시할 수 있는 수준의 오버헤드를 발생시키는 것을 확인하였다.

GPU를 공유하는 컨테이너 기반 클라우드 환경에서 다수의 사용자를 위한 원격 VR 서비스의 성능 관리 기법

강지훈 ( Jihun Kang ) 한국정보처리학회 2022 정보처리학회논문지. 컴퓨터 및 통신시스템 Vol.11 No.1

VR(Virtual Reality) 기술은 사용자에게 컴퓨터 그래픽으로 구성된 가상 세계를 보여줌으로써 다양한 시청각 기반 응용에 적극적으로 활용되는 인터페이스 기술이다. VR 기반 응용은 그래픽 처리 기반 응용이기 때문에 그래픽 처리를 위해 GPU(Graphics Processing Unit)가 장착된 고가의 컴퓨팅 장치가 필수적으로 요구된다. 이는 VR 응용 사용자에게 컴퓨팅 장치의 유지, 관리에 대한 비용 부담을 발생시키며, 이를 해결하는 방법의 하나로써 서비스를 클라우드 환경에서 운용하는 방법이 사용되고 있다. 본 논문에서는 다수의 컨테이너가 VR 응용을 실행하기 위해 GPU를 공유하는 컨테이너 기반 고성능 클라우드 환경에서 GPU 자원 경쟁으로 인해 발생하는 컨테이너 사이의 성능 간섭 문제를 해결하기 위한 성능 관리 기법을 제안한다. 제안하는 기법은 성능 간섭으로 인한 성능 편차를 감소시켜 사용자에게 균일한 성능의 클라우드 기반 원격 VR 서비스를 제공할 수 있도록 지원한다. 또한, 본 논문에서는 실험을 통해 제안하는 기법의 효율성을 검증한다. Virtual Reality(VR) technology is an interface technology that is actively used in various audio-visual-based applications by showing users a virtual world composed of computer graphics. Since VR-based applications are graphic processing-based applications, expensive computing devices equipped with Graphics Processing Unit(GPU) are essential for graphic processing. This incurs a cost burden on VR application users for maintaining and managing computing devices, and as one of the solutions to this, a method of operating services in cloud environments is being used. This paper proposes a performance management technique to address the problem of performance interference between containers owing to GPU resource competition in container-based high-performance cloud environments in which multiple containers share a single GPU. The proposed technique reduces performance deviation due to performance interference, helping provide uniform performance-based remote VR services for users. In addition, this paper verifies the efficiency of the proposed technique through experiments.

Mesh WiFi 와 WiFi Extender 의 커버리지 확장 성능 비교 분석

강지훈(Jihun Kang),임윤섭(Yoonseop Lim),박주하(Juha Park),신원재(Wonjae Shin) 한국통신학회 2022 한국통신학회 학술대회논문집 Vol.2022 No.2

스마트팩토리, 스마트홈에는 넓은 범위의 안정적이고 고품질의 인터넷망 공급이 필요하다. 이를 위해 다양한 WiFi 커버리지 확장방식이 활용된다. 본 논문에서는 대표적인 WiFi 커버리지 확장방식인 WiFi Extender 와 Mesh WiFi 의 이론적 원리와 장단점을 파악한다. 이후 신호강도를 나타내는 RSSI(Received Signal Strength Indicator)와 초당 송수신 가능한 비트의 수를 나타내는 Data Rate 를 지표로 활용하여 두 방식의 성능을 실험적으로 비교 및 분석한다. 실험결과를 통해 결론적으로 신호 품질유지, 연결성, 간편성의 측면에서 Mesh WiFi 가 더 우수한 확장방식임을 검증한다.

경피적 대동맥판막 치환술 이후 대동맥동에서 발생하는 혈류역학적 변화 연구: 대동맥 크기, 판막 높이, 관상동맥에 따른 영향

강지훈(Jihun Kang),구현정(Hyunjung Koo),양동현(Donghyun Yang),하호진(Hojin Ha) 대한기계학회 2022 대한기계학회 춘추학술대회 Vol.2022 No.11

경피적 대동맥판막 치환술 이후 대동맥동에서 발생하는 혈류역학적 변화 연구: 대동맥 크기, 판막 높이, 관상동맥에 따른 영향

강지훈(Jihun Kang),구현정(Hyunjung Koo),양동현(Donghyun Yang),하호진(Hojin Ha) 대한기계학회 2022 대한기계학회 춘추학술대회 Vol.2022 No.11