Dynamic adaptive real-time framework for multi-DNN intermittent systems

국문 초록 (Abstract)

에너지 하베스팅으로 구동되는 인터미턴트 시스템은 제한된 메모리와 변동적인 에너지 가용성으로 인해 심각한 도전에 직면한다. 이러한 문제는 환경 모니터링과 같은 실시간 응용 분야에서 더욱 두드러지는데, 이 경우 다중 DNN(Deep Neural Network) 태스크가 엄격한 시간 제약을 만족하면서 높은 추론 정확도를 유지해야 한다. 기존의 경량화된 정적 또는 동적 DNN 기반 접근법은 에너지 적응성 부족 혹은 과도한 메모리 오버헤드 문제를 가지고 있어, 실시간 인터미턴트 시스템에는 적합하지 않다. 이러한 한계를 해결하기 위해, 우리는 다중 DNN 태스크를 실행하는 실시간 인터미턴트 시스템을 위한 새로운 층별(layer-wise) 에너지 적응 프레임워크 DART를 제안한다. DART는 다음의 세 가지 핵심 구성 요소로 이루어진다. (i) 추가적인 메모리 오버헤드 없이 다중 지연–정확도(trade-off)를 지원하는 런타임 재구성 가능한 DNN 모델 및 학습 방법론, (ii) 인터미턴트 추론 동작을 기존의 시간 보장 프레임워크에 통합하는 에너지 인지형 시간 예산 추상화(energy-aware time budget abstraction), (iii) 모델과 추상화를 결합하여 시간 제약을 보장하면서 높은 추론 정확도를 확보하는 런타임 스케줄링 메커니즘. 실험 결과, DART는 기존 기법 대비 더 높은 정확도로 다중 DNN 태스크의 시간 내 실행을 에너지 인지적으로 보장함을 보여주며, 실시간 인터미턴트 시스템에서의 효과성을 검증하였다.

다국어 초록 (Multilingual Abstract)

Energy-harvesting embedded systems operate without stable power, causing frequent interruptions and severe resource constraints that challenge reliable DNN execution. To address this, we propose DART (Dynamic Adaptive Real Time Framework), a unified framework that enables accurate and schedulable multi-DNN inference on intermittent microcontroller-based platforms. DART integrates three core components: a layer-wise scalable DNN architecture that adapts computational width without additional memory cost, an energy-aware timing abstraction that models power-induced timing variations, and a runtime adaptation mechanism that dynamically selects the most accurate configuration satisfying timing guarantees. Implemented on a TI MSP430FR5994, DART achieves 100% deadline satisfaction while executing up to four DNN tasks under dynamic power conditions and improves inference accuracy by up to 10% compared with static models. These results demonstrate DART’s capability to bridge real-time scheduling and adaptive inference for energy-harvesting multi-DNN systems.

목차 (Table of Contents)

• 1. INTRODUCTION 1
• 2. DESIGN OF DNN MODEL AND TRAINING PROCESS 6
• A. Qualified DNN Model Re-Design 7
• B. Training Process Development 10
• 3. Energy-Aware Time Budget Abstraction 14
• A. DNN Inference Task Model 15
• B. Characterizing Intermittent Inference Behavior 15
• C. Developing Energy-Aware Time Budget Abstraction 16
• 4. Real-Time Scheduling Principles For Timing/Energy Guarantee & Accuracy Maximization 19
• A. Base Scheduling for Timing/Energy Guarantees 19
• B. Runtime Adaptation for Accuracy Maximization 21
• 5. Evaluation 28
• A. Implementation 28
• B. Case Study 30
• C. Simulation 34
• 6. Related Work 38
• 7. Discussion 40
• 8. Conclusion 41
• References 42