TVM训练TinyML
发布时间
阅读量:
阅读量
如何利用TVM训练TinyML
当前,机器学习研究者及从业者对“裸机”(即低功耗设备,通常不配备操作系统)表现出浓厚的兴趣。虽然已有专家能够在部分裸机设备上运行特定模型,但针对不同设备进行模型优化的难度极高,通常需要人工调整设备专用的库文件。对于那些缺乏Linux支持的平台而言,目前尚无适用于模型部署的可扩展性解决方案。因此,为了适配新型设备,开发人员必须构建一次性的定制化软件堆栈,以实现系统资源管理以及模型执行调度。
手动优化机器学习软件并非裸机设备领域特有的问题。事实上,对于采用其他硬件后端(如GPU和FPGA)的开发人员而言,这一挑战已成为普遍现象。TVM已被证实能够应对新型硬件目标带来的冲击,然而直至目前仍未能有效处理微控制器所具有的独特属性。为了解决这一问题,TVM被进一步扩展,并新增了一个名为µTVM(脚注:发音为“MicroTVM”)的微控制器后端模块。µTVM能够在主机驱动的裸机设备上执行张量程序,并借助TVM内置的AutoTVM张量程序优化器实现这些程序的自动化优化过程。下图展示了µTVM与AutoTVM结合后的整体架构概览:

功能
在阐述
全部评论 (0)
还没有任何评论哟~
