©2020-2024 ioDraw All rights reserved,
Privacy Policy
生成对抗网络(GAN)是深度学习中一类比较大的家族，主要功能是实现图像、音乐或文本等生成(或者说是创作)，生成对抗网络的主要思想是：通过生成器(generator)与判别器(discriminator)不断对抗进行训练。最终使得判别器难以分辨生成器生成的数据(图片，音频等)和真实的数据。所以，对于生成对抗网络，我们最终的目标一般是得到生成器，因为训练结束后我们是需要得到神经网络创作出来的作品。
一：基本原理
生成对抗网络的基本思想是训练过程中生成网络(生成器，generator)与判别网络(判别器，discriminator)不断对抗的过程。所以，无论GAN模型多么复杂，基本思想仍是这两种网络的对抗，基本结构一定要有生成器与判别器。
为了了解GAN的一般过程，兔兔以一个经典的例子来说明。我们假设生成器是一个普通的画家，判别器是名画鉴别师。一开始这个画家的画的赝品很容易被鉴别师识别出来，然后画家再想办法使画更像真的名画，但是鉴别师之后还是能够识别。不过在一次次被鉴别的过程中，画家的画技逐渐炉火纯青，而鉴别师的鉴别水平也逐渐提高。所以最终画家可能画得十分逼真，与真的名画相差无几，以至于鉴别师也分辨不出来了。
以上例子只是一个很笼统的比喻。如果更细致一些，实际的过程是：把一些真的画和画家的假画给鉴别师，告诉鉴别师哪个是真，哪个是假，这个过程实际上是训练鉴别师；然后画家画几幅画给鉴别师，如果有一些画被鉴别师鉴别出来了，画家需要根据这些被鉴别出来的画进行反思，使得之后的画作尽量不要被鉴别师鉴别出来，这个过程是训练画家；然后还是将真画与画家的假画交给鉴别师，告诉他哪个是真，哪个是假......这个过程依次交替进行，直到训练结束。
以上这个过程实际上就是GAN的大致思路了。
接下来是GAN的具体结构。兔兔以图片的生成为例，这也是GAN最经典的应用，并且这里先不讲解以文字生成图像的stack-GAN等模型，仅仅是最简单的GAN。
GAN一般情况下可以看做是无监督学习，因为我们训练的数据只有真实的图片，并没有标签。这里使用的标签也仅仅是真实数据的"真"与生成器生成图片的"假"。
1.生成器（generator）
首先，对于生成器，其内部一般是多层卷积、全连接层等构成的网络，并且采用上采样，通过接收的噪声来生成一个大小合适的图片。这里的噪声其实就是服从某些分布的随机数，一般选取正态分布随机数，该随机数组成一个长度为n的向量，每个这样的向量最终都会生成一个对应的图片。从某种意义来说，正是这种随机数的存在，每次生成的图片都会不同，但图片是否长得像真的，则取决于generator。当然，随机数的概率分布对图像也是有影响的，如果训练时用高斯噪声，那么使用时也要用这个噪声。
2.判别器（discriminator）
对于判别器，其内部一般也是多层卷积，全连接等层组成的网络，并且采用下采样，它接收一个批次的图片(batch,c,w,h)，每个图片都相应标记为真或假(batch,1)（标签也可以用one-hot编码表示(batch,2)），其中假图片是generator生成的。判别器的训练过程和我们以往的监督学习的训练方法是一致的。
3.生成对抗模型（GAN,adversarial model）
在构建好generator与discriminator后，将两个组合起来，形成对抗网络GAN，用来训练生成网络。
对于GAN，它接收一批次噪声，输出为“真”或“假”标签，如果为真，说明生成器生成的这个图片骗过了判别器，否则根据这个损失来调整generator内部参数。这个训练过程也和以往的监督学习的训练方法相同，不过这里的discriminator参数不能更改，只有generator内部参数可以改，毕竟这是训练生成器的过程，而不是训练判别器；并且标签是"True"，因为我们是想让generator生成的图像看起来更像是真的。
整个训练的过程为：
(1).从高斯分布中采样一批次长度为n的噪声向量。
(2).利用(1)中噪声向量，使用generator生成假图像。
(3).从真实数据采一批次真实图像，与(2)中的假图像混合，做好标签，训练discriminator。
(4).再从高斯分布中采样长度为n的一批次噪声向量，标签为“True”，训练GAN，此时GAN中的discriminator参数不能更新，只训练generator。
(5).按指定轮数重复上述步骤。
二：基本框架
import torch import numpy as np from torch.utils.data import DataLoader from
torch import nn import argparse class Generator(nn.Module): '''生成器''' def
__init__(self): super(Generator, self).__init__() pass def forward(self,input):
pass class Discriminator(nn.Module): '''判别器''' def __init__(self):
super(Discriminator, self).__init__() pass def forward(self,input): pass class
GAN(nn.Module): '''GAN模型''' def __init__(self): super(GAN, self).__init__()
self.gene=Generator() self.gene.requires_grad_(True) self.disc=Discriminator()
self.disc.requires_grad_(False) def forward(self,input): out=self.gene(input)
out=self.disc(out) return out class dataset: '''真实图片数据集''' def __init__(self):
pass def __len__(self): pass def __getitem__(self, item): pass if
__name__=='__main__': parser=argparse.ArgumentParser()
parser.add_argument('--epoch',type=int,default=10,help='the train epoch')
parser.add_argument('--n',type=int,default=200,help='the length of noise')
parser.add_argument('--noise_batch',type=int,default=10,help='the batch size of
noise') parser.add_argument('--true_batch',type=int,default=10,help='the batch
size of true picture') opt=parser.parse_args() gene=Generator()
disc=Discriminator() gan=GAN() disc_optim=torch.optim.Adam(disc.parameters())
gan_optim=torch.optim.Adam(gan.parameters()) criterion=nn.MSELoss() for i in
range(opt.epoch): true_pict = DataLoader(dataset(), batch_size=opt.true_batch,
shuffle=True) for batch in true_pict:
noise=torch.tensor(np.random.normal((opt.noise_batch,opt.n)),dtype=torch.float32)
false_pict=gene(noise)
label_true=torch.tensor(np.ones(shape=opt.true_batch),dtype=torch.float32)
label_fake=torch.tensor(np.ones(shape=opt.noise_batch),dtype=torch.float32)
loss_true=criterion(batch,label_true)
loss_fake=criterion(false_pict,label_fake) disc_optim.zero_grad()
loss_fake.backward() loss_true.backward() loss_fake.step() loss_true.step()
noise1=torch.tensor(np.random.normal((opt.noise_batch,opt.n)),dtype=torch.float32)
pict=gene(noise1)
label=torch.tensor(np.ones(shape=(opt.noise_batch,opt.n)),dtype=torch.float32)
loss_gan=criterion(pict,label) loss_gan.zero_grad() loss_gan.backward()
loss_gan.step()
当然，关于内部的训练批次等问题，以及判别网络与生成网络每次的训练次数，有时是需要具体问题具体分析的。
三：总结：
生成对抗网络的发展时间并不长，但是目前却已经有非常多的GAN模型，并由GAN衍生出提出许多新的方法。生成对抗网络不仅打开了深度学习在创作领域的大门，更重要的是它所带来的一种新法方法与思想，对诸多领域有着深远影响。