resnet即残差网络,是一种作为许多计算机视觉任务主干的经典神经网络。
resnet是2015年ImageNet挑战赛的获胜者,ResNet最根本的突破在于它使得我们可以训练成功非常深的神经网路,如150+层的网络。
在resnet之前,由于梯度消失的问题,训练非常深的神经网络是非常困难的。
但是,提升网络的深度并不是简单的将网络层堆叠起来。
resnet很难训练的原因,是因为非常烦人的梯度消失问题——随着梯度反向传播回前面的网络层,重复的乘积操作会使得梯度变得非常小。
结果呢,随着网络越来越深,它的性能就变得饱和了,并开始迅速下降。
resnet是靠前个提出残差连接的概念。