在这里，我可视化深度神经网络的中间结果，来研究卷积层对input的激活。下面两张图像分别是浅层（resnet的layer1）和深层(resnet的layer4)卷积的feature map的可视化结果。从以下两张图可知，浅层神经网络对于input具有更多的响应，而深层神经网络对input具有更少的响应。这也从一方面映射了浅层神经网络学习了一些普遍的特征如颜色，纹理等等；而深层神经网络则学习到了一些具有判别性的特征。对于以上这个结论，我们还可以通过可视化神经网络所学习到的特征来证明。在这里，我采用了最大激活值来生成feature image，但由于所生成的image缺少一定的可解释性和visual，所以我便不再对齐进行展示。接下来，我将研究如何来生成一张更具备解释性和可视化的image。
