ARTICLE DETAIL

资讯详情

深耕编程入门与网站建设的一线实战洞察。

感受野:两个3x3等于一个5x5

感受野:两个3x3等于一个5x5 目录什么是感受野两层 3×3 卷积的感受野为什么不用一层 5×5网络设计例子常见面试追问什么是感受野定义输出特征图上的一个元素在输入图像上所对应的空间区域大小。理解你站在一栋楼网络的顶楼深层透视往下看只能看到地面输入的九块地砖这些地砖就是你的感受野。重要性目标检测需要匹配感受野否则“看不到”大目标语义分割感受野 物体尺寸 → 分类错误超分/去噪感受野 纹理尺度 → 伪影两层 3×3 卷积的感受野Step-1第一层输入 7×7 → 3×3 卷积 → 输出 5×5RF 3Step-2第二层把 5×5 特征再 3×3 卷积 → 输出 3×3此时输出中心点 (1,1) 在特征图上的感受范围是 (0:3, 0:3)映射回输入图像 特征图 (0:3, 0:3) 对应输入 (0:5, 0:5)⇒ 输入上需要5×5区域故RF 5通项 RF 2l 1网络片段层数 l感受野实战意义VGG-16 前 3 层 3×337×7可捕获 CIFAR-10 整图ResNet50 瓶颈 4 层 3×349×9ImageNet 小物体空洞卷积 (d2) 替代等效 7×715×15不增加参数为什么不用一层 5×5假设输入输出通道均为 C方案参数量非线性次数感受野一层 5×525C²15×5两层 3×32×3×3×C² 18C²25×5参数减少28%多一次 ReLU增强非线性表达能力更深 → 更好泛化Bias-Variance 网络设计例子VGG 3×3 堆叠→ ImageNet结果证明小核堆叠有效ResNetBottleneck 用 1×1→3×3→1×1EfficientNet复合缩放同时加深、加宽、加分辨率感受野同步增长常见面试追问Q1padding1 会影响感受野吗A不会只影响特征图尺寸RF 计算公式不变。Q2stride2 时两层 3×3 RF 是多少ARF2 3 (3−1)×2 7Q31×1 卷积会增加感受野吗A不会k1 ⇒ 增量为 0仅用于通道混合。Q4空洞卷积 dilated2 的 3×3 等效核多大A等效 k 3 (3−1)×(2−1) 5Q5Transformer 里还有感受野概念吗A有叫 Attention Window原理相同只是从局部卷积变成全局/局部自注意力。
返回列表