【论文笔记】Visualizing and understanding CNN
source link: https://www.guofei.site/2019/11/07/transfer_learning_dnn.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
【论文笔记】Visualizing and understanding CNN
2019年11月07日Author: Guofei
文章归类: 0-读论文 ，文章编号: 6
版权声明：本文作者是郭飞。转载随意，但需要标明原文链接，并通知本人
原文链接：https://www.guofei.site/2019/11/07/transfer_learning_dnn.html
abstract&introduction
最近人们发现，CNN的效果很好，但没人知道：
- 为什么表现好
- 如何提升效果
这篇论文就是要解决这个问题。并提出了一些创新的可视化方法。
做法
这篇文章用的是这种CNN：ReLU、带max pooling、（有时）有正则化。
（原文不够详细，我又查了其它资料）
deconvnet
1. Unpooling
pooling是不可逆的，因此需要一定的期缴来处理。在做pooling时，额外记最大的坐标，然后unpooling的过程中，把相应坐标填进去，其余格子置为0
下面这个示意图是在其他地方找的:
2. Rectification
因为用的激活函数是ReLu，因此反激活过程也是ReLu
3. Filtering
训练
用的是 ImageNet 2012，细节就不摘抄了。
可视化
用前面写的 deconvnet，对某个激活值，不是给出最大的图片，而是给出top9
您的支持将鼓励我继续创作！
Recommend
-
65
作者 Andrej Karpathy Justin Johnson Li Fei-Fei 观点 LSTM 在实践中表现出了非常好的结果，但我们对其性能的来源和限制理解...
-
32
README.md GANDissect
-
24
GAN dissection: visualizing and understanding generative adversarial networks Bau et al., arXiv’18 Earlier this week we looked at visualisations to aid u...
-
22
JPEG [JAY-peg] JPEG (Joint Photographic Experts Group) is the image encoding, JFIF (JPEG File Interchange Format) is the file format storage. Referen...
-
31
Instance Segmentation with PyTorch and Mask R-CNN
-
10
Hackers breach Electronic Arts, stealing game source code and toolsBy Brian Fung, CNN BusinessUpdated: Thu, 10 Jun 2021 19:38:24 GMTSource: CNN BusinessHackers have broken into the systems of Electroni...
-
7
【论文笔记】CNN features off-the-Shelf 2019年11月05日 Author: Guofei 文章归类: 0-读论文 ，文章编号: 4 版权声明：本文作者是郭飞。转载随...
-
5
在做机器学习使用新数据集时，我们首先要知道它的特点，一个可以快速可靠地深入了解所选文档的内容，并区分它们类别的工具十分重要。 在这篇论文，作者从文本集合中提取“相关词”，以概括属于某个类别（或在unlabeled数据集下为聚类的组）的文档的内容，并在词云...
-
4
Dropout的理解： 在训练过程中，随机的使一些神经元输出为0，使其失效，这样有可能可以获得更多的特征表达，每一个神经元不完全依赖于其他的神经元，但是我们还是保留这个权重； 从数学平均的角度来理解的话，每一...
-
7
“Fast R-CNN and Faster R-CNN” Mar 15, 2017 I am retiring this page now. If you are interested in Fast R-CNN, Faster R-CNN & FPN, we have better updated information...
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK