卷积神经网络模型的可视化分析

这是笔者再多听一次专家说深度学习模型是"黑盒"这个说法既不能全然认同也不能绝对反对但专家作为资深领域权威人士这句话的确让人觉得有些不太严谨特别是在长时间未接触科研工作的情况下说出这样的话更是让人难以接受对于某些特定类型的深度学习模型确实难以从可视化中间节点中获取有效的判别信息然而对于卷积神经网络来说情况则完全相反由于卷积神经网络所学习到的表征 learned representation 特别适合进行可视化分析这背后的根本原因在于卷积神经网络始终建立在视觉概念的基础之上

1. 目前卷积深度表示的可视化/解释方法

• 中间激活态/特征图可视化 。也就是对卷积神经网络的中间输出特征图进行呈现与分析研究工作, 这有助于我们理解卷积神经网络如何通过连续的层逐步展开对输入数据的变化感知机制, 同时也有助于深入解析卷及神经网络每个过滤器的作用与意义所在 更深入的研究表明, 笔者曾经探索将中间激活态 与其所结合的注意力机制 进行联合学习训练, 实验结果证实这种方法确实能够有效提升算法性能指标。
• 空间滤波器组可视化 。从本质上讲, 卷积神经网络的学习过程就是学习一系列参数化的空间滤波器组, 通过这些滤波器组的参数化组合与优化, 我们能够更好地理解和解析视觉模式与视觉概念的本质属性 更深入的研究发现, 笔者曾尝试通过某种方式引导dropout机