🧠 模型与架构

ResNet

残差网络Residual Network深度残差网络ResNet模型

ResNet(残差网络)是2015年由微软研究院提出的深度卷积神经网络架构,通过引入残差连接(skip connection)解决了深层网络的退化问题,使训练超过100层的深度网络成为可能。


ResNet 简介

ResNet(Residual Network,残差网络)由 Kaiming He 等人于 2015 年在论文《Deep Residual Learning for Image Recognition》中提出,荣获 2015 年 ImageNet 竞赛冠军。ResNet 的革命性贡献是提出了残差学习框架,彻底改变了深度神经网络的设计范式。

核心创新:残差连接

在传统网络中,每一层学习的是完整的映射 H(x)。ResNet 改为学习残差映射 F(x) = H(x) - x,通过快捷连接(shortcut connection)将输入 x 直接加到层输出上:输出 = F(x) + x。这种设计让梯度可以直接通过 shortcut 反向传播到早期层,有效缓解了梯度消失问题。

模型架构

ResNet 提供多种深度:ResNet-18、ResNet-34、ResNet-50、ResNet-101、ResNet-152。50 层以上的版本使用"瓶颈块"(Bottleneck Block)降低计算量。

影响与应用

ResNet 是计算机视觉领域引用量最高的论文之一,被广泛应用于图像分类、目标检测(作为骨干网络)、语义分割、人脸识别、医学影像分析等几乎所有视觉任务。


相关术语

分享: