1. 创作灵感
在创建大型网络的时候,如果使用nn.Sequential()将几个有紧密联系的运算组成一个序列,可以使网络的结构更加清晰。
2.应用举例
为了记录nn.Sequential()的用法,搭建以下测试网络:
2.1 方法一
把网络分成3个Sequential序列,分别实现:第一个是卷积序列,第二个是铺平成一维的操作,第3个包含了两个线性层。
class TestNet(nn.Module): def __init__(self, in_channels, mid_channels): super(TestNet,self).__init__() self.conv = nn.Sequential( nn.Conv2d(in_channels,in_channels*2,kernel_size=3,stride=2,padding=1), nn.BatchNorm2d(in_channels*2), nn.ReLU(inplace=True), nn.Conv2d(in_channels*2,in_channels*4,kernel_size=3,stride=2,padding=1), nn.BatchNorm2d(in_channels*4), nn.ReLU(inplace=True) ) self.flat = nn.Flatten() self.linaer = nn.Sequential( nn.Linear(49*4, 64), nn.Linear(64, 10), nn.Linear(10, 1) ) def forward(self,x): x = self.conv(x) print(x.shape) x = self.flat(x) print(x.shape) x = self.linaer(x) print(x.shape) return x
运行结果:
从维度上判断,网络符合预期。
2.2 方法二
第二种方法,在网络结构比较复杂且重复的单元比较多,为了自动化生成网络,通常会先定义一个列表,在列表中添加网络,再使用nn.Sequential()。
使用方法二所需要的代码如下:
class TestNet2(nn.Module): def __init__(self, in_channels): super(TestNet2,self).__init__() layer1 = [] layer2 = [] layer1.append(nn.Conv2d(in_channels,in_channels*2,kernel_size=3,stride=2,padding=1)) layer1.append(nn.BatchNorm2d(in_channels*2)) layer1.append(nn.ReLU(inplace=True)) layer1.append(nn.Conv2d(in_channels*2,in_channels*4,kernel_size=3,stride=2,padding=1)) layer1.append(nn.BatchNorm2d(in_channels*4)) layer1.append(nn.ReLU(inplace=True)) self.conv = nn.Sequential(*layer1) self.flat = nn.Flatten() layer2.append(nn.Linear(49*4, 64)) layer2.append(nn.Linear(64, 10)) layer2.append(nn.Linear(10, 1)) self.linaer = nn.Sequential(*layer2) def forward(self,x): x = self.conv(x) print(x.shape) x = self.flat(x) print(x.shape) x = self.linaer(x) print(x.shape) return x
运行结果如下:
与第一种方法的结果相同。
参考文献:
nn.Sequential、nn.ModuleList、nn.ModuleDict区别及使用技巧-CSDN博客