TVM与神经网络兼容的编译器问题

TVM适配NN编译Compiler缺陷
内容纲要

1. 前言

2. TVM针对VTA的编译流程
   i. 自定义VTA架构：TVM的缺陷与性能瓶颈

3. TVM缺陷与瓶颈
   i. 缺陷一：SRAM配置灵活性差
   ii. 缺陷二：计算阵列配置僵硬
   iii. 缺陷三：网络支持少

4. TVM源码修改之静态调度搜索算法
   前言
   前文对NN编译栈中TVM的结构和特性进行了深入探讨。本文则聚焦于当前TVM存在的不足之处，并阐述如何通过调整源代码来弥补这些不足，以实现对自研神经网络加速器的适配。未来将把相关修改成果开源至GitHub，并提交至TVM官方仓库进行整合。

当前广泛使用的深度学习训练框架包括Caffe、PyTorch、TensorFlow和MxNet等，这些框架在CPU及CUDA平台上的支持表现良好。然而，若希望将训练完成的神经网络模型部署至其他终端设备，则面临多重难题：

5. 主流框架不兼容ARM/FPGA/ASIC等硬件平台
6. 嵌入式设备通常无需具备训练能力，对模型推理速度提出较高要求
7. 嵌入式设备在性能、内存及存储方面受限，主流框架因体积庞大而难以适配
8. 终端设备所采用的指令集与架构缺乏统一标准，极大增加了开发与部署难度

TVM作为深度学习系统的编译器堆栈，致力于弥合以算力为核心的重点深度学习框架