인공 신경망을 위한 효과적인 메모리-프로세서 집적 어레이 = An Effective Memory-Processor Integrated Array for Artificial Neural Networks

국문 초록 (Abstract)

본 논문에서는 인공 신경망을 위한 메모리 기반 프로세서 어레이 (MPAA : memory_based processor array for artificial neural networks)라 불리는 효과적인 메모리-프로세서 집적 구조를 제안한다. MPAA는 메모리 인터페이스를 통해 어떠한 호스트 시스템과도 쉽게 통합될 수 있다. MPAA 시스템은 행렬-벡터 곱셈과 같은 기본적인 인공 신경망 계산 모델에 적합하도록 행과 열의 혼합 디코딩을 통하여 메모리의 행과 열, 두 가지 단위로 모두 접근이 가능하도록 설계되었다. 또한 대표적 신경망 모델인 다층 퍼셉트론 역전파 학습을 MPAA 시스템에 매핑하는 방법을 기술하였다. 제안하는 매핑 알고리즘은 뉴런 단위와 충 단위 두 가지의 병렬성을 모두 지원하여 회상 단계뿐 만 아니라 학습 단계에도 학습 패턴의 파이프라인 수행이 가능하다. 두 가지 성능 지수인 계산 스텝과 비용 측면에서 성능 비교 평가를 하였다. 그 결과, 제안하는 구조 및 알고리즘은 기존의 1차원 SIMD, 2 차원 SIMD, 시스톨릭 어레이 구조 보다 우수함을 보였다.

다국어 초록 (Multilingual Abstract)

In this paper an effective memory-processor integrated architecture, called memory_based processor array for artificial neural networks (MPAA), is proposed. The MPAA can be easily integrated into any host system via memory interface. Specifically, the MPAA system provides an efficient mechanism for its local memory accesses allowed by the row basis and the column basis using the hybrid row and column decoding, which is suitable for the computation model of ANNs such as the accessing and alignment patterns given for matrix-by-vector operations. Mapping algorithms to implement the multilayer perceptron with backpropagation learning on the MPAA system are also provided. The proposed algorithms support both neuron and layer level parallelisms which allow the MPAA system to operate the learning phase as well as the recall phase in the pipelined fashion Performance evaluation is provided by detailed comparison in terms of two metrics such as the cost and the number of computation steps. The results show that the performance of the proposed architecture and algorithms is superior to those of the previous approaches, such as one-dimensional single instruction multiple data (SIMD) arrays, two-dimensional SIMD arrays, systolic ring structures. and hypercube machines.

목차 (Table of Contents)

• 요약
• Abstract
• 1. 서론
• 2. MPAA 시스템
• 3. 제안하는 매핑 알고리즘
• 4. 여러 가지 구조와 매핑 알고리즘의 비교
• 5. 결론
• 참고문헌
• 저자소개