问答网

当前位置: 首页 > 知识问答 > resnet网络结构

resnet网络结构

知识问答 浏览5次

resnet即残差网络,是一种作为许多计算机视觉任务主干的经典神经网络。

resnet是2015年ImageNet挑战赛的获胜者,ResNet最根本的突破在于它使得我们可以训练成功非常深的神经网路,如150+层的网络。

在resnet之前,由于梯度消失的问题,训练非常深的神经网络是非常困难的。

但是,提升网络的深度并不是简单的将网络层堆叠起来。

resnet很难训练的原因,是因为非常烦人的梯度消失问题——随着梯度反向传播回前面的网络层,重复的乘积操作会使得梯度变得非常小。

结果呢,随着网络越来越深,它的性能就变得饱和了,并开始迅速下降。

resnet是靠前个提出残差连接的概念。