TensorRT模型的可视化解析

阅读量：

TensorRT优化策略示意图

在这里插入图片描述

图12展示了TensorRT循环的构建方式，其通过设定循环边界层来实现。数据流仅能以特定路径从循环结构中输出，即通过第二个输入递归层作为唯一的后向连接边。

在这里插入图片描述

图 13. 一种 if 条件结构的抽象模型示意图

在这里插入图片描述

图14. 在控制条件下实施IIf条件输入层的布置

在这里插入图片描述

图15展示了层执行过程以及在CPU端启动的内核结构。

全部评论 (0)

还没有任何评论哟~