TVMNN Compilation Compiler Stack

TVMNN编译Compiler栈
内容纲要

1. 前言

2. 调研目标

3. TVM介绍

4. TVM源码架构
   i. FrontEnd
   ii. Relay
   iii. BackEnd

5. VTA实现原理及设计思想提炼
   i. 整体结构
   ii. VTA Hardware
   a.
   a. 指令集
   b. 数据流
   c. 控制流
   b. VTA Config
   c. Pyng HLS
   d. 硬件设计思想提炼
   e. Chisel Scalar
   f. SIM C++
   g. Xilinx Scripts
   iii. VTA JIT
   a. Driver
   b. Runtime
   c. TVM Runtime Library
   iv. VTA Complier

6. 参考文献

前言

随着深度学习与神经网络技术的广泛应用，多终端部署已成为常态。从CPU、ARM、GPU到各类专用神经网络加速器或深度学习处理器，不同终端设备及其架构的多样性导致了神经网络模型的碎片化问题。在每一款设备上，特别是针对特定任务优化的加速芯片上部署深度学习模型往往需要耗费大量资源且效果有限。近年来，尽管卷积神经网络（CNN）加速器在学术界和工业界备受关注，但研究人员与企业所采用的指令集和体系结构各不相同，缺乏统一标准，使得开