深度学习:感受野(receptivefield)

定义

感受野：卷积神经网络每一层输出的特征图（feature map）上的像素点在原始图像上映射的区域大小。

卷积核大小

多层叠加 的 小卷积核 相比于 大卷积核 的 优势：

1. 可取得与大卷积核同等规模的感受野；
2. 加深了网络深度 —> 增强了网络容量和网络复杂度；
3. 减少了模型参数的个数。

感受野计算

感受野的计算 主要与 卷积层 和 池化层 的 窗口大小 (size)、移动步长 (stride) 以及 填充 (padding) 有关。

例如，在 stride=1，padding=0 的相同前提下，经过 三个 3&＃x00D7;3&＃x00D7;1" role="presentation" > 3×3×1 $3\times 3\times 1$ 的小卷积核后，每个神经元映射到初始feature map上得到的感受野大小是 7&＃x00D7;7&＃x00D7;1" role="presentation" > 7×7×1 $7\times 7\times 1$，实现这三层卷积核只需 3&＃x00D7;&＃xFF08;3&＃x00D7;3&＃x00D7;1&＃xFF09;=27" role="presentation" > 3×（3×3×1）=27 $3\times （3\times 3\times 1）=27$ 个参数。
相同情况下，经过 一个 7&＃x00D7;7&＃x00D7;1" role="presentation" > 7×7×1 $7\times 7\times 1$ 的大卷积核后也能实现相同大小的感受野，但实现这一层卷积核却需 1&＃x00D7;&＃xFF08;7&＃x00D7;7&＃x00D7;1&＃xFF09;=49" role="presentation" > 1×（7×7×1）=49 $1\times （7\times 7\times 1）=49$ 个参数。
因此，小卷积核在某种程度上可以说节省了参数开销，但是增加了网络层数。