트래픽 패턴 인지형 하이브리드 멀티캐스트 라우팅 기법에 대한 연구 = Study on Traffic-Pattern-Aware Hybrid Multicast Routing Scheme

국문 초록 (Abstract)

인공지능의 발전과 함께 네트워크-온-칩(Network-on-Chip, NoC)이 포함된 대규모 가속기가 중요해지고 있다. 특히, 많은 양의 데이터가 NoC를 통해 이동하기 때문에 여러 목적지에 동시에 데이터를 옮기는 멀티캐스트가 중요 하다. 멀티캐스트 라우팅 기법에 따라 사용되는 NoC 링크가 달라진다. 이는 NoC의 트래픽 부하를 바꾸어 성능에 직접적인 영향을 준다. 본 논문에서는 트래픽 패턴을 파악해 출발지-목적지 쌍마다 더 적합한 멀티캐스트 라우팅 기법을 선택적으로 사용해 최적의 성능을 내는 하이브리드 멀티캐스트 라우 팅 기법을 제안한다. 이를 위해 트리 기반 멀티캐스트 라우팅 기법과 경로 기반 멀티캐스트 라우팅 기법을 모두 지원하는 사이클 단위 정확도를 가지 는 SystemC-TLM 기반 NoC 시뮬레이션 모델을 구현하였다. 제안하는 하이 브리드 멀티캐스트 라우팅 기법을 통해 BERT에서 평균 9.2%, ViT에서 평균 7.2%의 성능 이득을 얻었으며 최대 22.3%의 성능 이득을 확인하였다. 또한 분석적 기법과 시뮬레이션 로그를 활용하여 평균 43.7% 더 빠르게 멀티캐스 트 라우팅 방식 조합을 찾을 수 있었으며 Random Forest를 활용하여 모든 경우를 다 확인하는 것에 96.1% 근접한 성능을 얻을 수 있었다.

다국어 초록 (Multilingual Abstract)

With the advancement of artificial intelligence, large-scale accelerators that incorporate Networks-on-Chip (NoCs) are becoming increasingly important. In particular, since a large volume of data moves through the NoC, multicast, which transfers data to multiple destinations simultaneously, plays a crucial role. The NoC links used differ depending on the multicast routing scheme, which changes the traffic load of the NoC and thus directly affects performance. This paper proposes a hybrid multicast routing scheme that achieves optimal performance by identifying traffic patterns and selectively using a more suitable multicast routing scheme for each source-destination pair. To this end, this paper implements a SystemC-TLM-based NoC simulation model with cycle-level accuracy that supports both tree-based and path-based multicast routing schemes. Using the proposed hybrid multicast routing scheme, the system achieves average performance gains of 9.2% on BERT and 7.2% on ViT, with a maximum performance gain of 22.3%. In addition, leveraging analytical techniques and simulation logs makes it possible to find combinations of multicast routing schemes 43.7% faster on average, and using a Random Forest achieves performance within 96.1% of that obtained by exhaustively evaluating all cases.

목차 (Table of Contents)

• 표목차 ⅱ
• 그림목차 ⅲ
• 국문초록 ⅳ
• 제1장 서론 1
• 제2장 배경 및 관련 연구 2
• 제1절 NoC가 포함된 대규모 가속기의 구조 2
• 제2절 NoC가 포함된 대규모 가속기의 동작 방식 4
• 제3절 멀티캐스트 라우팅 기법 6
• 1. NoC에서의 멀티캐스트 라우팅 기법 6
• 2. 트리 기반 멀티캐스트 라우팅 기법 7
• 3. 경로 기반 멀티캐스트 라우팅 기법 9
• 제3장 NoC 라우터 시뮬레이션 모델과 제안하는 라우팅 기법 12
• 제1절 기존 NoC 라우터 시뮬레이션 모델 12
• 제2절 SystemC-TLM 기반 NoC 라우터 시뮬레이션 모델 13
• 제3절 하이브리드 멀티캐스트 라우팅 기법 16
• 제4장 실험 결과 22
• 제1절 워크로드 및 설정 22
• 제2절 실험 결과 및 분석 24
• 제5장 결론 29
• 참고문헌 30
• ABSTRACT 34