卷积神经网络必读的40篇经典论文，包含检测/识别/分类/分割多个领域

转载自&＃xff1a;极市平台

作为深度学习的代表算法之一&＃xff0c;卷积神经网络&＃xff08;Convolutional Neural Networks&＃xff0c;CNN&＃xff09;在计算机视觉等领域上取得了当前最好的效果。

1998 年&＃xff0c;Yann LeCun提出LeNet-5&＃xff0c;将 BP 算法应用到神经网络结构的训练上&＃xff0c;形成当代CNN雏形。2012 年&＃xff0c;在 Imagenet 图像识别大赛中&＃xff0c;Hinton 组的论文中提到的 Alexnet 引入了全新的深层结构和 dropout 方法&＃xff0c;将 error rate 从 25% 以上提升到了 15%&＃xff0c;一举颠覆了图像识别领域&＃xff0c;CNN自此声名大噪并蓬勃发展。在 2016 年&＃xff0c;CNN 再次给人们一个惊喜&＃xff1a;谷歌研发的基于深度神经网络和搜索树的智能机器人“AlphaGo”在围棋上击败人类。随后利用 ResNet 和 Faster-RCNN 的思想&＃xff0c;一年后的 Master 完虐了所有人类围棋高手&＃xff0c;达到神一般的境界。

可以说&＃xff0c;卷积神经网络是深度学习算法应用最成功的领域之一。

而研读卷积神经网络的经典论文&＃xff0c;对于学习和研究卷积神经网络必不可缺。根据相关算法&＃xff0c;科技情报大数据挖掘与服务系统平台AMiner从人工智能领域国际顶会/期刊中提取出“卷积神经网络”相关关键词&＃xff0c;筛选推荐了 40 篇经典必读论文&＃xff0c;内容包含CNN在检测/识别/分类/分割/跟踪等领域的理论与实践&＃xff0c;并按被引用量进行了排序整理。

这 100 篇论文大多发表于 2015 年至 2019 年间&＃xff0c;主要发表在 CVPR、ICCV、ICML、NeuIPS 等计算机视觉顶级学术会议上。在该领域发表论文最多的学者中&＃xff0c;“神经网络之父”、“深度学习鼻祖”Hinton 与 Bengio 双双上榜&＃xff0c;为深度学习研究持续贡献了力量。

下文将对这100篇论文进行按被引用量的排序&＃xff0c;并对部分作简单评述&＃xff1a;

*1. Fully Convolutional Networks for Semantic Segmentation &＃xff5c;CVPR2015&＃xff5c;引用量&＃xff1a;13136

作者信息&＃xff1a;UC Berkeley&＃xff5c;Jonathan Long&＃xff0c;Evan Shelhamer&＃xff0c;Trevor Darrell

本篇论文是神经网络大神 Jonathan Long 与他的博士同学 Evan Shelhamer、导师 Trevor Darrell 的代表作&＃xff0c;获得了 CVPR 2015 年最佳论文奖。该文的核心贡献&＃xff0c;在于提出了全卷积网络&＃xff08;FCN&＃xff09;的概念&＃xff0c;它是一种可以接受任意大小图像并输出与输入等大的图像的全卷积神经网络&＃xff0c;针对语义分割训练一个端到端&＃xff0c;点对点的网络&＃xff0c;达到了 state-of-the-art。这是第一次训练端到端的 FCN&＃xff0c;用于像素级的预测&＃xff1b;也是第一次用监督预训练的方法训练 FCN。

*2. Convolutional Neural Networks for Sentence Classification&＃xff5c;EMNLP 2014&＃xff5c;引用量&＃xff1a;5978
论文信息&＃xff1a;纽约大学&＃xff5c;Yoon Kim

*3. Large-Scale Video Classification with Convolutional Neural Networks&＃xff5c;CVPR2014&＃xff5c;引用量&＃xff1a;4145
作者信息&＃xff1a;谷歌&＃xff0c;斯坦福大学&＃xff5c;Andrej Karpathy&＃xff0c;George Toderici&＃xff0c;Sanketh Shetty&＃xff0c;Thomas Leung&＃xff0c;Rahul Sukthankar&＃xff0c;Li Fei-Fei

该文研究了多种方法来扩展 CNN 在时域上的连通性&＃xff0c;以利用局部时空信息&＃xff0c;作者提出一个多分辨率、新颖的框架的方式来加快训练&＃xff08;计算效率&＃xff09;。文章的贡献点主要有三个&＃xff1a;

1.将 CNN 拓展&＃xff0c;用于视频分类&＃xff1b;
2.使用两种不同的分辨率的帧分别作为输入&＃xff0c;输入到两个 CNN 中&＃xff0c;在最后的两个全连接层将两个 CNN 统一起来&＃xff1b;两个流分别是低分辨率的内容流和采用每一个帧中间部分的高分辨率流&＃xff1b;

3.将从自建数据库学习到的 CNN 结构迁移到 UCF-101 数据集上面。

*4. How transferable are features in deep neural networks? &＃xff5c;NIPS 2014&＃xff5c;引用量&＃xff1a;3414
作者信息&＃xff1a;卡耐基梅隆大学&＃xff0c;怀俄明大学&＃xff0c;蒙特利尔大学&＃xff5c;Jason Yosinski&＃xff0c;Jeff Clune&＃xff0c;Yoshua Bengio&＃xff0c;Hod Lipson

本文是 Bengio 团队关于迁移学习&＃xff08;Transfer Learning&＃xff09;的研究&＃xff0c;文章实验了深度神经网络中不同层神经元的泛化性能和特异性&＃xff0c;研究了模型的迁移能力两个主要影响因素&＃xff0c;对于研究深度神经网络特征的可迁移性具有重要意义。

*5. Learning Spatiotemporal Features with 3D Convolutional Networks&＃xff5c;ICCV2015&＃xff5c;引用量&＃xff1a;2711

作者信息&＃xff1a;Facebook&＃xff0c;达特茅斯学院&＃xff5c;Du Tran&＃xff0c;Lubomir Bourdev&＃xff0c;Rob Fergus&＃xff0c;Lorenzo Torresani&＃xff0c;Manohar Paluri

这篇文章介绍了在大规模有监督的视频数据集下,训练出了一种简单且高效的三维卷积神经网络的方法来学习时空特征。

3D 卷积网络的优势有三点&＃xff1a;

1&＃xff09;同2D 卷积网络相比&＃xff0c;3D 卷积网络更适合时空特征的学习&＃xff1b;

2&＃xff09;3D 卷积网络的每一层的卷积核的结构是齐次的&＃xff0c;并且在很多结构中都适用&＃xff1b;

3&＃xff09;将学到的特征成为 C3D&＃xff0c;带有一个简单的线性分类器&＃xff0c;在 4 个不同的 benchmarks 上测试都实现了最好的性能&＃xff0c;并且在另外的 2 个 benchmarks 上与目前的最好的方法相媲美。

*6. SegNet: A Deep Convolutional Encoder-Decoder Architecture for Image Segmentation&＃xff5c;引用量&＃xff1a;2373
作者信息&＃xff1a;剑桥大学&＃xff5c;Vijay Badrinarayanan&＃xff0c;Alex Kendall&＃xff0c;Roberto Cipolla

本文提出了一种用于像素级语义分割的深度全卷积神经网络结构 SegNet。SegNet 的创新点在于译码器对输入的低分辨率特征图的上采样处理方式。具体来讲&＃xff0c;解码器利用在 max-pooling 过程中计算的池化 indices&＃xff0c;计算对应的编码器的非线性上采样。这个操作就省去了上采样过程的学习。上采样后的 map 是稀疏的&＃xff0c;再用可学习的 filter 通过卷积计算稠密的特征图。

*7. XNOR-Net: ImageNet Classification Using Binary Convolutional Neural Networks&＃xff5c;ECCV2016&＃xff5c;引用量&＃xff1a;1713
作者信息&＃xff1a;艾伦人工智能研究所&＃xff0c;华盛顿大学&＃xff5c;Mohammad Rastegari&＃xff0c;Vicente Ordonez&＃xff0c;Joseph Redmon&＃xff0c;Ali Farhadi

该文针对标准卷积神经网络提出了两种有效的近似网络&＃xff1a;二元权重网络和 XNOR 网络。二元权重网络中&＃xff0c;卷积核用两个值来近似表示&＃xff0c;从而节省 32 倍的存储空间。在 XNOR 网络中&＃xff0c;卷积核和卷积层输入都是用两个值&＃xff08;1 和 -1&＃xff09;表示的。XNOR 网络主要使用二元运算进行卷积运算。这使得卷积操作速度提高了 58 倍&＃xff0c;节省了 32 倍的内存。 

 
*8. Character-level Convolutional Networks for Text Classification&＃xff5c;NIPS2015&＃xff5c;引用量&＃xff1a;1701
作者信息&＃xff1a;纽约大学&＃xff5c;Xiang Zhang&＃xff0c;Junbo Zhao&＃xff0c;Yann LeCun

*9. Towards End-To-End Speech Recognition with Recurrent Neural Networks&＃xff5c;ICML2014&＃xff5c;引用量&＃xff1a;1339
作者信息&＃xff1a;DeepMind&＃xff0c;多伦多大学&＃xff5c;Alex Graves&＃xff0c;Navdeep Jaitly

*10. DRAW: A Recurrent Neural Network For Image Generation&＃xff5c;ICML 2015&＃xff5c;引用量&＃xff1a;1186
作者信息&＃xff1a;Google DeepMind&＃xff5c;Karol Gregor,Ivo Danihelka,Alex Graves,Danilo Jimenez Rezende,Daan Wierstra

本文介绍了一种可应用于图像生成的 Deep Recurrent Attentive Writer&＃xff08;DRAW&＃xff09;神经网络模型&＃xff0c;此模型能够生成高质量的自然图像&＃xff0c;并提高了在 MNIST 数据集上生成模型表现的最好水平。此外&＃xff0c;使用 SVHN 数据集训练的 DRAW 模型生成的图片&＃xff0c;裸眼无法分辨其与真实数据的区别。

*11. Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps&＃xff5c;ICLR2013&＃xff5c;引用量&＃xff1a;1170
作者&＃xff1a;Karen Simonyan,Andrea Vedaldi,Andrew Zisserman

*12. Neural Collaborative Filtering&＃xff5c;引用量&＃xff1a;1141
作者&＃xff1a;Xiangnan He,Lizi Liao,Hanwang Zhang,Liqiang Nie,Xia Hu,Tat-Seng Chua

*13. Image Style Transfer Using Convolutional Neural Networks&＃xff5c;CVPR2016&＃xff5c;引用量&＃xff1a;1107
作者&＃xff1a;Leon A. Gatys,Alexander S. Ecker,Matthias Bethge

*14. Image Super-Resolution Using Deep Convolutional Networks&＃xff5c;IEEE2016&＃xff5c;引用量&＃xff1a;1035
作者&＃xff1a;Chao Dong,Chen Change Loy,Kaiming He,Xiaoou Tang

*15. Distilling the Knowledge in a Neural Network&＃xff5c;引用量&＃xff1a;1021
作者&＃xff1a;Geoffrey E. Hinton,Oriol Vinyals,Jeffrey Dean

*16. Recurrent Convolutional Neural Networks for Text Classification」AAAI2015&＃xff5c;引用量916
作者&＃xff1a;Siwei Lai,Liheng Xu,Kang Liu,Jun Zhao

*17. Squeeze-and-Excitation Networks&＃xff5c;CVPR2018&＃xff5c;引用量886
作者&＃xff1a;Jie Hu,Li Shen,Gang Sun

*18. Convolutional Sequence to Sequence Learning&＃xff5c;ICML2017&＃xff5c;引用量&＃xff1a;777
作者&＃xff1a;Jonas Gehring,Michael Auli,David Grangier,Denis Yarats,Yann N. Dauphin

*19. Non-local Neural Networks&＃xff5c;CVPR2018&＃xff5c;引用量&＃xff1a;751
作者&＃xff1a;Xiaolong Wang,Ross B. Girshick,Abhinav Gupta,Kaiming He

*20. Residual Attention Network for Image Classification&＃xff5c;CVPR2017&＃xff5c;引用量&＃xff1a;568
作者&＃xff1a;Fei Wang,Mengqing Jiang,Chen Qian,Shuo Yang,Cheng Li,Honggang Zhang,Xiaogang Wang,Xiaoou Tang

*21. Image Super-Resolution via Deep Recursive Residual Network&＃xff5c;CVPR2017&＃xff5c;引用量559
作者&＃xff1a;Ying Tai,Jian Yang,Xiaoming Liu

*22. PoseNet: A Convolutional Network for Real-Time 6-DOF Camera Relocalization&＃xff5c;ICCV2015&＃xff5c;引用量503
作者&＃xff1a;Alex Kendall,Matthew Grimes,Roberto Cipolla

*23. Learning to Rank Short Text Pairs with Convolutional Deep Neural Networks&＃xff5c;引用量&＃xff1a;483
作者&＃xff1a;Aliaksei Severyn,Alessandro Moschitti

*24. Deformable Convolutional Networks&＃xff5c;ICCV2017&＃xff5c;引用量&＃xff1a;476
作者&＃xff1a;Jifeng Dai,Haozhi Qi,Yuwen Xiong,Yi Li,Guodong Zhang,Han Hu,Yichen Wei

*25. Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting&＃xff5c;引用量399
作者&＃xff1a;Xingjian Shi,Zhourong Chen,Hao Wang,Dit-Yan Yeung,Wai-Kin Wong,Wang-chun Woo

*26. Fast Training of Convolutional Networks through FFTs&＃xff5c;引用量&＃xff1a;385
作者&＃xff1a;Michaël Mathieu,Mikael Henaff,Yann LeCun

*26. Large Kernel Matters - Improve Semantic Segmentation by Global Convolutional Network&＃xff5c;CVPR2017&＃xff5c;引用量377
作者&＃xff1a;Chao Peng,Xiangyu Zhang,Gang Yu,Guiming Luo,Jian Sun

*27. Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition&＃xff5c;AAAI2018&＃xff5c;引用量353
作者&＃xff1a;Sijie Yan,Yuanjun Xiong,Dahua Lin

*28. The One Hundred Layers Tiramisu: Fully Convolutional DenseNets for Semantic Segmentation&＃xff5c;CVPR2017&＃xff5c;引用量&＃xff1a;333
作者&＃xff1a;Simon Jégou,Michal Drozdzal,David Vázquez,Adriana Romero,Yoshua Bengio

*29. Multi-Oriented Text Detection with Fully Convolutional Networks&＃xff5c;CVPR2016&＃xff5c;引用量&＃xff1a;313
作者&＃xff1a;Zheng Zhang,Chengquan Zhang,Wei Shen,Cong Yao,Wenyu Liu,Xiang Bai

*30. Learning Efficient Convolutional Networks through Network Slimming&＃xff5c;ICCV2017&＃xff5c;引用量310
作者&＃xff1a;Zhuang Liu,Jianguo Li,Zhiqiang Shen,Gao Huang,Shoumeng Yan,Changshui Zhang

*31. Multi-View 3D Object Detection Network for Autonomous Driving&＃xff5c;CVPR2017&＃xff5c;引用量&＃xff1a;276
作者&＃xff1a;Xiaozhi Chen,Huimin Ma,Ji Wan,Bo Li,Tian Xia

*32. Very Deep Convolutional Networks for End-to-End Speech Recognition&＃xff5c;ICASSP2017&＃xff5c;引用量&＃xff1a;242
作者&＃xff1a;Yu Zhang,William Chan,Navdeep Jaitly

*33. A Sensitivity Analysis of (and Practitioners&＃39; Guide to) Convolutional Neural Networks for Sentence Classification&＃xff5c;引用量&＃xff1a;229
作者&＃xff1a;Yingjie Zhang,Byron C. Wallace

*34. Event Extraction via Dynamic Multi-Pooling Convolutional Neural Networks&＃xff5c;ACL2015&＃xff5c;引用量&＃xff1a;212
作者&＃xff1a;Yubo Chen,Liheng Xu,Kang Liu,Daojian Zeng,Jun Zhao

*35. ThiNet: A Filter Level Pruning Method for Deep Neural Network Compression&＃xff5c;ICCV2017&＃xff5c;引用量208
作者&＃xff1a;Jian-Hao Luo,Jianxin Wu,Weiyao Lin

*36. Relation Extraction: Perspective from Convolutional Neural Networks&＃xff5c;引用量173
作者&＃xff1a;Thien Huu Nguyen,Ralph Grishman

*37. DCAN: Deep Contour-Aware Networks for Accurate Gland Segmentation&＃xff5c;CVPR2016&＃xff5c;引用量&＃xff1a;166
作者&＃xff1a;Hao Chen 0011,Xiaojuan Qi,Lequan Yu,Pheng-Ann Heng

*38. Look Closer to See Better: Recurrent Attention Convolutional Neural Network for Fine-Grained Image Recognition&＃xff5c;CVPR2017&＃xff5c;引用量&＃xff1a;159
作者&＃xff1a;Jianlong Fu,Heliang Zheng,Tao Mei

*39. Interpretable Convolutional Neural Networks&＃xff5c;CVPR2018&＃xff5c;引用量&＃xff1a;154
作者&＃xff1a;Quanshi Zhang,Ying Nian Wu,Song-Chun Zhu

*40. A systematic study of the class imbalance problem in convolutional neural networks&＃xff5c;引用量&＃xff1a;148
作者&＃xff1a;Mateusz Buda,Atsuto Maki,Maciej A. Mazurowski