python - 顺序模型中的pytorch跳过连接
问题描述
我正试图围绕顺序模型中的跳过连接。使用功能性 API,我将做一些简单的事情(快速示例,可能不是 100% 语法正确,但应该明白):
x1 = self.conv1(inp)
x = self.conv2(x)
x = self.conv3(x)
x = self.conv4(x)
x = self.deconv4(x)
x = self.deconv3(x)
x = self.deconv2(x)
x = torch.cat((x, x1), 1))
x = self.deconv1(x)
我现在正在使用顺序模型并尝试做类似的事情,创建一个跳过连接,将第一个 conv 层的激活一直带到最后一个 convTranspose。我查看了这里实现的 U-net 架构,这有点令人困惑,它做了这样的事情:
upconv = nn.ConvTranspose2d(inner_nc * 2, outer_nc,
kernel_size=4, stride=2,
padding=1, bias=use_bias)
down = [downrelu, downconv, downnorm]
up = [uprelu, upconv, upnorm]
if use_dropout:
model = down + [submodule] + up + [nn.Dropout(0.5)]
else:
model = down + [submodule] + up
这不只是将层添加到顺序模型中吗?down
后面是conv submodule
(递归添加内层),然后连接到up
哪个是upconv层。我可能遗漏了有关Sequential
API 工作原理的重要信息,但是从 U-NET 截取的代码实际上是如何实现跳过的?
解决方案
您的观察是正确的,但您可能错过了UnetSkipConnectionBlock.forward()
(UnetSkipConnectionBlock
作为Module
您共享的 U-Net 块的定义) 的定义,这可能会澄清此实现:
(来自pytorch-CycleGAN-and-pix2pix/models/networks.py#L259
)
# Defines the submodule with skip connection.
# X -------------------identity---------------------- X
# |-- downsampling -- |submodule| -- upsampling --|
class UnetSkipConnectionBlock(nn.Module):
# ...
def forward(self, x):
if self.outermost:
return self.model(x)
else:
return torch.cat([x, self.model(x)], 1)
最后一行是键(适用于所有内部块)。跳过层只是通过连接 inputx
和(递归)块 outputself.model(x)
以及您提到的操作列表来完成 - 因此与您编写self.model
的代码没有太大区别。Functional
推荐阅读
- c# - 使用公钥解密 RSA-SHA256 所需的 C# 代码
- javascript - 单击滑块时如何将类似滑块的复选框的滑块移动到其标签之一?
- acpi - 如何从 .asl 文件(ACPI 文件)方法打印到串行控制台?
- c# - Unity3D + protobuf-net:无法加载字段类型 Protobuf.BufferPool:_pool 由于... System.Buffers
- python - Openpyxl没有保存excel文件,为什么?
- gcc - lcov + gcov-9 由于使用 json 的性能回归
- javascript - 如何根据属性过滤数组中的对象
- android - adb shell screencap 从视频中返回黑色图像
- javascript - 如何监听 window.forward() 事件?(HTML5 历史 API)
- zsh - ZSH 清除终端并呈现命令返回数据