【转载】 pytorch自定义网络结构不进行参数初始化会怎样?

时间:2023-03-09 13:29:18
【转载】   pytorch自定义网络结构不进行参数初始化会怎样?

原文地址:

https://blog.****.net/u011668104/article/details/81670544

----------------------------------------------------------------------------------------------------------------

答案:不怕不怕,pytorch自己默认有初始化

证据如下:

torch.nn.Conv2d的参数初始化
    https://pytorch.org/docs/stable/_modules/torch/nn/modules/conv.html#Conv2d

Conv2d继承自_ConvNd,在_ConvNd中,可以看到默认参数就是进行初始化的,如下图所示

【转载】   pytorch自定义网络结构不进行参数初始化会怎样?

【转载】   pytorch自定义网络结构不进行参数初始化会怎样?

2)    torch.nn.BatchNorm2d

同理

【转载】   pytorch自定义网络结构不进行参数初始化会怎样?

3)torch.nn.Linear

同上

【转载】   pytorch自定义网络结构不进行参数初始化会怎样?