추론 기반 응용을 위한 embedded DRAM PIM 시스템의 특성 분석 및 성능 계측 = Analysis and Measurement of embedded DRAM based PIM for Inference Applications

국문 초록 (Abstract)

본 논문에서는 180nm 로직 공정을 기반으로 설계된 eDRAM(embedded DRAM) 기반 PIM(Processing-In-Memory) 시스템의 구조 및 동작 특성을 분석하고, 실제 칩 수준에서의 에너지 효율 개선 효과를 실측을 통해 검증하였다. eDRAM-PIM 시스템은 1T-1C eDRAM 셀 어레이를 기반으로 메모리와 연산 유닛(Processing Element, PE)을 동일 다이(die) 상에 통합한 구조로 설계되었다. 메모리 동작 모드에서는 Read, Write, 그리고 Refresh 동작을 수행하며, PIM 연산 모드에서는 메모리 어레이에 저장된 가중치(weight)와 외부 입력 데이터를 이용하여 내부 FP16 Multiplier 및 FP32 Adder Tree로 구성된 연산 유닛에서 Dot Product 연산을 수행한다. 메모리 모드(eDRAM Mode)와 연산 모드(PIM Mode) 간의 에너지 소모율 분석 결과 PIM Mode는 eDRAM Mode 대비 약 3.04배의 에너지 효율(Energy Efficiency) 개선 효과를 보였다. 이는 eDRAM 기반 PIM 구조가 메모리와 연산 유닛을 동일 다이에 집적함으로써 데이터 이동으로 인한 전력 손실을 최소화하고 시스템 수준의 에너지 효율을 향상시킬 수 있음을 보여준다.

다국어 초록 (Multilingual Abstract)

In this paper, the structure and operating characteristics of an embedded DRAM (eDRAM)-based Processing-In-Memory (PIM) system designed using a 180 nm logic process were analyzed, and the improvement in energy efficiency was experimentally verified at the chip level. The proposed eDRAM-PIM system integrates memory and processing elements (PEs) on the same die, based on a 1T–1C eDRAM cell array. In the memory operation mode, the system performs Read, Write, and Refresh operations, whereas in the PIM operation mode, Dot Product operations are executed within the internal processing unit composed of FP16 multipliers and an FP32 adder tree, using weight data stored in the eDRAM array and external input data.
Experimental analysis comparing the energy consumption between the memory mode (eDRAM Mode) and the computation mode (PIM Mode) showed that the PIM Mode achieved approximately 3.04× higher energy efficiency than the eDRAM Mode. This improvement demonstrates that the proposed eDRAM-based PIM architecture can minimize power loss caused by data movement by integrating memory and computational units on the same die, thereby achieving enhanced system-level energy efficiency.

목차 (Table of Contents)

• 제 1 장 서 론 1
• 제 1 절 연구의 배경 1
• 제 2 절 연구의 내용 4
• 제 2 장 eDRAM-PIM 칩의 구조 및 동작 분석 5
• 제 1 절 eDRAM-PIM 칩 전체 구조 5
• 제 2 절 Memory Core 구조 및 동작 분석 8
• 제 3 절 Processing Element 구조 및 동작 분석 17
• 제 3 장 eDRAM-PIM 시뮬레이션 결과 24
• 제 1 절 Memory Core 구조 및 동작 분석 24
• 제 2 절 eDRAM-PIM 동작 시뮬레이션 28
• 제 3 장 측정 및 결과 분석 29
• 제 1 절 eDRAM-PIM 측정 환경 구성 29
• 제 2 절 eDRAM-PIM 동작 및 기능 검증 30
• 제 3 절 전력 측정 및 Energy Efficiency 분석 33
• 제 4 절 eDRAM-PIM 레이아웃 38
• 제 5 절 eDRAM-PIM 성능 비교 분석 39
• 제 4 장 결 론 40
• 참고문헌 41
• Abstract 45