在 pytorch 中为 CNN 设置自定义内核

Question

有没有办法在 pytorch 中为卷积神经网络指定我们自己的自定义内核值？张量流中的 kernel_initialiser 之类的东西？例如。我想要 nn.Conv2d 中的 3x3 内核并进行初始化，以便它充当身份内核 -

0 0 0
0 1 0
0 0 0

（这将有效地 return 与我在第一次迭代中的输入相同的输出）

我对该主题的非详尽研究 -

我可以使用 nn.init 但它只有一些预定义的内核初始化值。

我试图关注他们的讨论official thread，但它不符合我的需要。

我在研究中可能遗漏了一些东西，请随时指出。

Answer 1

感谢 ptrblck 我能够解决它。我可以将一个新的卷积层定义为 conv 并且根据示例我可以使用 -

设置身份内核

weights = ch.Tensor([[0, 0, 0], [0, 1, 0], [0, 0, 0]]).unsqueeze(0).unsqueeze(0)
weights.requires_grad = True


conv = nn.Conv2d(1, 1, kernel_size=3, stride=1, padding=1, bias=False)

with ch.no_grad():
    conv.weight = nn.Parameter(weights)

然后我可以继续使用 conv 作为我的常规 nn.Conv2d 图层。

Answer 2

我认为更简单的解决方案是：

    deconv = nn.ConvTranspose2d(
        in_channels=channel_dim, out_channels=channel_dim,
        kernel_size=kernel_size, stride=stride,
        bias=False, padding=1, output_padding=1
    )
    deconv.weight.data.copy_(
        get_upsampling_weight(channel_dim, channel_dim, kernel_size)
    )

换句话说使用copy_

在 pytorch 中为 CNN 设置自定义内核

Setting custom kernel for CNN in pytorch

python

torch

conv-neural-network

pytorch