PyTorch库学习之nn.ConvTranspose2d(模块)

一、简介

nn.ConvTranspose2d 是 PyTorch 中的一个模块，用于实现二维转置卷积（也称为反卷积或上采样卷积）。转置卷积通常用于生成比输入更大的输出，例如在生成对抗网络（GANs）和卷积神经网络（CNNs）的解码器部分。

二、语法和参数

语法

torch.nn.ConvTranspose2d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, groups=1, bias=True, dilation=1, padding_mode='zeros')

参数

in_channels: 输入通道的数量。
out_channels: 输出通道的数量。
kernel_size: 卷积核的大小，可以是单个整数或是一个包含两个整数的元组。
stride: 卷积的步长，默认为1。可以是单个整数或是一个包含两个整数的元组。
padding: 输入的每一边补充0的数量，默认为0。
output_padding: 输出的每一边额外补充0的数量，默认为0。用于控制输出的大小。
groups: 将输入分成若干组，默认为1。
bias: 如果为True，则会添加偏置，默认为True。
dilation: 卷积核元素之间的间距，默认为1。
padding_mode: 可选的填充模式，包括 ‘zeros’, ‘reflect’, ‘replicate’ 或 ‘circular’。默认为 ‘zeros’。

三、实例

3.1 创建基本的ConvTranspose2d层

代码

import torch
import torch.nn as nn# 定义 ConvTranspose2d 模块
conv_transpose = nn.ConvTranspose2d(in_channels=1, out_channels=1, kernel_size=3, stride=2, padding=1)# 创建一个示例输入张量
input_tensor = torch.randn(1, 1, 4, 4)# 通过 ConvTranspose2d 模块计算输出
output_tensor = conv_transpose(input_tensor)print("输入张量的形状:", input_tensor.shape)
print("输出张量的形状:", output_tensor.shape)

输出

输入张量的形状: torch.Size([1, 1, 4, 4])
输出张量的形状: torch.Size([1, 1, 7, 7])

3.2 使用多个输出通道的ConvTranspose2d

代码

import torch
import torch.nn as nn# 定义 ConvTranspose2d 模块，具有多个输出通道
conv_transpose = nn.ConvTranspose2d(in_channels=1, out_channels=3, kernel_size=3, stride=2, padding=1)# 创建一个示例输入张量
input_tensor = torch.randn(1, 1, 4, 4)# 通过 ConvTranspose2d 模块计算输出
output_tensor = conv_transpose(input_tensor)print("输入张量的形状:", input_tensor.shape)
print("输出张量的形状:", output_tensor.shape)

输出

输入张量的形状: torch.Size([1, 1, 4, 4])
输出张量的形状: torch.Size([1, 3, 7, 7])

四、注意事项

output_padding 参数并不是直接决定输出的大小，而是用来补偿可能由于卷积参数导致的输出尺寸误差。
当 stride > 1 时，可能需要调整 padding 和 output_padding 以获得期望的输出尺寸。
转置卷积容易产生棋盘效应，可以通过调整超参数或使用不同的上采样方法来缓解。

五、附录：转置卷积输出特征图的计算

转置卷积的输出特征图大小可以通过以下公式计算：
$\text{Output size} = (I - 1) \times S - 2P + K + \text{Output padding}$
其中：

(I) 是输入特征图的大小（高度或宽度）。
(S) 是步长 (stride)。
(P) 是填充 (padding)。
(K) 是卷积核的大小 (kernel_size)。
Output padding 是 output_padding 参数。

例子

假设输入特征图大小为 I = 4，步长 S = 2，填充 P = 1，卷积核大小 K = 3，output_padding = 1，则输出特征图的大小为：
$\text{Output size} = (4 - 1) \times 2 - 2 \times 1 + 3 + 1 = 3 \times 2 - 2 + 3 + 1 = 6 - 2 + 3 + 1 = 8$
因此，输出特征图的大小为 8。