使用PyTorch实现GAN(生成对抗网络)的详细步骤
创始人
2024-11-14 12:06:38
0

使用PyTorch实现GAN(生成对抗网络)

在这篇博客中,我们将探讨如何使用PyTorch实现一个简单的生成对抗网络(GAN),用于生成手写数字图像(MNIST数据集)。我们将详细介绍代码的每一个部分,并确保所有注释信息都被保留。

1. 导入必要的库

以下是我们用到的主要库:

import torchvision import torch from matplotlib import pyplot as plt from torch import nn, Tensor from torch.utils.data import DataLoader from torch.utils.tensorboard import SummaryWriter from torchvision import transforms import os 

这些库将帮助我们处理数据、构建模型、训练网络以及可视化生成的图像。

2. 数据准备

我们需要首先对训练数据进行处理。下面是MNIST数据集的准备过程:

# 数据准备 transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize(0.5, 0.5)]) train_dataset = torchvision.datasets.MNIST("./dataset", train=True, transform=transform, download=True) train_dataloader = DataLoader(train_dataset, batch_size=64, shuffle=True, drop_last=True) 

我们使用了transforms.Compose将数据转换为张量并进行归一化,以便模型能够更好地进行学习。

3. 生成器和判别器的定义

接下来,我们定义生成器(Generator)和判别器(Discriminator)。

生成器:

# 生成器 class Generator(nn.Module):     def __init__(self):         super().__init__()         self.model = nn.Sequential(             nn.Linear(100, 128),             nn.Linear(128, 256),             nn.Linear(256, 512),             nn.Linear(512, 28 * 28),             nn.Tanh()         )      def forward(self, x):         return self.model(x) 

生成器将随机噪声输入转化为28x28的图像。

判别器:

# 判别器 class Discriminator(nn.Module):     def __init__(self):         super().__init__()         self.model = nn.Sequential(             nn.Flatten(),             nn.Linear(28 * 28, 512),             nn.LeakyReLU(),             nn.Linear(512, 256),             nn.LeakyReLU(),             nn.Linear(256, 1),             nn.Sigmoid()         )      def forward(self, x):         x = x.view(-1, 28, 28)         return self.model(x) 

判别器负责区分生成的图像和真实图像。

4. 初始化模型,优化器及损失计算函数

接下来,我们初始化模型、优化器以及损失函数。

# 初始化模型,优化器及损失计算函数 writer = SummaryWriter("./p1log") device = "cuda" if torch.cuda.is_available() else "cpu" gen = Generator().to(device) dis = Discriminator().to(device) # 优化器 g_optim = torch.optim.Adam(gen.parameters(), lr=1e-3) d_optim = torch.optim.Adam(dis.parameters(), lr=1e-3) # 损失函数 loss_fn = nn.BCELoss() epochs = 20 

我们使用Adam优化器和二元交叉熵损失函数(BCELoss)来计算生成器和判别器的损失。

5. 训练过程

我们开始训练循环,并对生成器和判别器进行优化。

# 开始循环 for epoch in range(epochs):     for step, (imgs, _) in enumerate(train_dataloader):         imgs = imgs.to(device)         size = imgs.size(0)  # 返回第0纬度的大小,也就是batch_size=64         random_noise = torch.randn(size, 100, device=device)  # 生成64个,大小为100特征值的噪音          # 鉴别器的优化         d_optim.zero_grad()         # 对真实的图片,希望判断为1         real_output = dis(imgs)         d_real_loss = loss_fn(real_output,                                torch.ones_like(real_output))  # 达到鉴别器在真实图片上的损失          # 对生成器生成的图片,希望对生成器生成的全部判断为0         gen_img = gen(random_noise)         fake_output = dis(gen_img).detach()  # 截断梯度,希望判断为0         d_fake_loss = loss_fn(fake_output,                                torch.zeros_like(fake_output))  # 得到鉴别器在生成图片上的损失         # 鉴别器的损失等于鉴别真实图片和鉴别生成图片的损失和         d_loss = d_fake_loss + d_real_loss         d_loss.backward()         d_optim.step()          # 生成器的优化         g_optim.zero_grad()         gen_img = gen(random_noise)         fake_output = dis(gen_img)         g_loss = loss_fn(fake_output,                          torch.ones_like(fake_output))         g_loss.backward()         g_optim.step()         # 将损失记录到tensorboard         writer.add_scalar('D_Loss_epoch:{}'.format(epoch + 1), d_loss.item(), epoch * len(train_dataloader) + step)         writer.add_scalar('G_Loss_epoch:{}'.format(epoch + 1), g_loss.item(), epoch * len(train_dataloader) + step)         # 每一百次进行一次打印         if step % 100 == 0:             print(f'Epoch [{epoch + 1}/{epochs}], Step [{step}], D Loss: {d_loss.item():.4f}, G Loss: {g_loss.item():.4f}')             print("Epoch:{},生成器的损失:{},鉴别器的损失:{}".format(epoch + 1, g_loss, d_loss)) 

在每个训练步骤中,我们首先优化判别器,之后再优化生成器。我们记录损失值以用于后期分析和可视化。

6. 生成和保存图像

在每个epoch结束时,我们将生成的图像保存到文件中。

# 每个 epoch 保存生成的图片 with torch.no_grad():     gen.eval()     test_noise = torch.randn(64, 100, device=device)     i = 0     generated_images = gen(test_noise).view(-1, 1, 28, 28)     generated_images = (generated_images + 1) / 2  # 将[-1, 1]转换到[0, 1]     # 绘图     grid = torchvision.utils.make_grid(generated_images, nrow=8)  # 将多个生成的图像组合成一个网格图像     plt.figure(figsize=(8, 8))  # 创建一个新的图形对象,并设置图形的大小为8x8英寸     plt.imshow(grid.cpu().numpy().transpose((1, 2, 0)))  # 转换为Matplotlib所需的格式     plt.axis('off')  # 关闭坐标轴和刻度     if not os.path.exists(f'./images/epoch_{epoch + 1}'):         os.makedirs(f'./images/epoch_{epoch + 1}')     plt.savefig(f"./images/epoch_{epoch + 1}/{i}.png")  # 保存生成的图片     i += 1     plt.close() 

这个部分的代码生成了一些假图片,并将结果保存到指定的目录中,以便后续查看。

总代码

import torchvision import torch from matplotlib import pyplot as plt from torch import nn, Tensor from torch.utils.data import DataLoader from torch.utils.tensorboard import SummaryWriter from torchvision import transforms import os  #数据准备 transform=transforms.Compose([transforms.ToTensor(),transforms.Normalize(0.5, 0.5)]) train_dataset=torchvision.datasets.MNIST("./dataset",train=True,transform=transform,download=True) train_dataloader=DataLoader(train_dataset,batch_size=64,shuffle=True,drop_last=True)  #生成器 class Generator(nn.Module):     def __init__(self):         super().__init__()         self.model=nn.Sequential(             nn.Linear(100,128),             nn.Linear(128,256),             nn.Linear(256,512),             nn.Linear(512,28*28),             nn.Tanh()         )      def forward(self,x):         return self.model(x) #判别器 class Discriminator(nn.Module):     def __init__(self):         super().__init__()         self.model=nn.Sequential(             nn.Flatten(),             nn.Linear(28*28,512),             nn.LeakyReLU(),             nn.Linear(512,256),             nn.LeakyReLU(),             nn.Linear(256,1),             nn.Sigmoid()         )      def forward(self,x):         x=x.view(-1,28,28)         return self.model(x)  #初始化模型,优化器及损失计算函数 #用BCEloss计算交叉熵损失 writer=SummaryWriter("./p1log") device="cuda" if torch.cuda.is_available() else "cpu" gen=Generator().to(device) dis=Discriminator().to(device) #优化器 g_optim=torch.optim.Adam(gen.parameters(),lr=1e-3) d_optim=torch.optim.Adam(dis.parameters(),lr=1e-3) #损失函数 loss_fn=nn.BCELoss() epochs=20  #开始循环 for epoch in range(epochs):     for step,(imgs,_) in enumerate(train_dataloader):         imgs = imgs.to(device)         size = imgs.size(0)#返回第0纬度的大小,也就是batch_size=64         random_noise = torch.randn(size, 100, device=device)#生成64个,大小为100特征值的噪音          # 鉴别器的优化         d_optim.zero_grad()         # 对真实的图片,希望判断为1         real_output = dis(imgs)         d_real_loss = loss_fn(real_output,                               torch.ones_like(real_output))  # 达到鉴别器在真实图片上的损失          # 对gen生成图片,希望对gen生成的全部判断为0         gen_img = gen(random_noise)         fake_output = dis(gen_img).detach()  # 截断梯度,希望判断为0         d_fake_loss = loss_fn(fake_output,                               torch.zeros_like(fake_output))  # 得到鉴别器在生成图片上的损失         # 鉴别器的损失等于鉴别真实图片和鉴别生成图片的损失和         d_loss = d_fake_loss + d_real_loss         d_loss.backward()         d_optim.step()          # 生成器的优化         g_optim.zero_grad()         gen_img=gen(random_noise)         fake_output = dis(gen_img)         g_loss = loss_fn(fake_output,                          torch.ones_like(fake_output))         g_loss.backward()         g_optim.step()         #将损失记录到tensorboard         writer.add_scalar('D_Loss_epoch:{}'.format(epoch+1), d_loss.item(), epoch * len(train_dataloader) + step)         writer.add_scalar('G_Loss_epoch:{}'.format(epoch+1), g_loss.item(), epoch * len(train_dataloader) + step)         #每一百次进行一次打印         if step % 100 == 0:             print(f'Epoch [{epoch+1}/{epochs}], Step [{step}], D Loss: {d_loss.item():.4f}, G Loss: {g_loss.item():.4f}')             print("Epoch:{},生成器的损失:{},鉴别器的损失:{}".format(epoch+1,g_loss,d_loss))  # 每个 epoch 保存生成的图片     with torch.no_grad():         gen.eval()         test_noise = torch.randn(64, 100, device=device)         i=0         generated_images = gen(test_noise).view(-1, 1, 28, 28)         generated_images = (generated_images + 1) / 2  # 将 [-1, 1] 转换到 [0, 1]         #绘图         grid = torchvision.utils.make_grid(generated_images, nrow=8)#torchvision.utils.make_grid 将多个生成的图像(generated_images)组合成一个网格图像,nrow=8 表示每一行显示 8 张图像。         plt.figure(figsize=(8, 8))#创建一个新的图形对象,并设置图形的大小为 8x8 英寸。         plt.imshow(grid.cpu().numpy().transpose((1, 2, 0))) #作用是将图像的数据格式从 PyTorch 的默认格式 (C, H, W) 转换为 Matplotlib 所需的格式 (H, W, C),以便正确显示图像。         plt.axis('off')#关闭坐标轴和刻度         if not os.path.exists(f'./images/epoch_{epoch+1}'):             os.makedirs(f'./images/epoch_{epoch+1}')         plt.savefig(f"./images/epoch_{epoch+1}/{i}.png")  # 保存生成的图片         i+=1         plt.close() 

相关内容

热门资讯

绝活儿辅助!广西老友玩老是输怎... 绝活儿辅助!广西老友玩老是输怎么办(辅助挂)都是真的有辅助app(讲解有挂)在进入广西老友玩老是输怎...
法门辅助!福建13水插件(辅助... 法门辅助!福建13水插件(辅助挂)一贯是有辅助技巧(有挂技术)1、许多玩家不知道福建13水插件辅助怎...
办法辅助!潮友会app下载官方... 办法辅助!潮友会app下载官方辅助器(辅助挂)真是真的是有辅助app(有挂教程)该软件可以轻松地帮助...
妙招辅助!邯郸胡乐挂辅助(辅助... 妙招辅助!邯郸胡乐挂辅助(辅助挂)好像存在有辅助插件(有挂方略)1、上手简单,内置详细流程视频教学,...
教程书辅助!乐酷辅助(辅助挂)... 教程书辅助!乐酷辅助(辅助挂)其实存在有辅助脚本(有挂细节)乐酷辅助能透视中分为三种模型:乐酷辅助模...
学习辅助!决战卡五星辅助(辅助... 学习辅助!决战卡五星辅助(辅助挂)本来真的是有辅助软件(有人有挂)学习辅助!决战卡五星辅助(辅助挂)...
绝活辅助!边锋嘉兴麻将辅助器(... 绝活辅助!边锋嘉兴麻将辅助器(辅助挂)真是真的有辅助神器(新版有挂)1、边锋嘉兴麻将辅助器公共底牌简...
举措辅助!枫叶辅助器(辅助挂)... 举措辅助!枫叶辅助器(辅助挂)本来存在有辅助技巧(竟然有挂)1、下载好枫叶辅助器正确养号方法之后点击...
讲义辅助!点我达辅助(辅助挂)... 讲义辅助!点我达辅助(辅助挂)一直存在有辅助技巧(有人有挂)1、点我达辅助辅助器安装包、点我达辅助辅...
模块辅助!威信茶馆有挂的吗(辅... 模块辅助!威信茶馆有挂的吗(辅助挂)一直真的是有辅助脚本(揭秘有挂)1、玩家可以在威信茶馆有挂的吗线...