FG2020: 软门控信号优化策略
发布时间
阅读量：
阅读量
https://arxiv.org/pdf/2002.11098.pdf
1.优化shortcut
许多现有的优秀人体姿态估计网络采用了与Hourglass框架相似的架构。该架构由多个编码器-解码器模块构成，并遵循以下规律：跳转连接在架构设计中具有显著提升性能的作用。本文对该跳转连接展开了深入研究，并采用软门控信号优化了这一结构，最终实现了性能表现的明显改善。
2.软门控信号
如图所示，在每个跳跃连接过程中引入一组与输入通道维度相同、且其中每个标量元素均代表当前输入通道重要性的向量组。其中每个标量元素都是可学习参数，在经过逐步优化过程后能够不断优化其数值配置以实现更好的跳跃连接机制。实际上这一机制与现有的通道注意力机制具有相似性。
还没有任何评论哟~