原文:6 GAN Architectures You Really Should Know - 2020.04.02

节选.

GAN 由两个独立的网络-生成网络(Generator) 和判别网络(Discriminator) 组成.

1. GAN 生成网络

给定(隐空间采样得到的)随机噪声,Generator 生成合成样本;

Discriminator 是一个二值分类器,用于判断输入样本是 real (输出标量值 1) 还是 fake(输出标量值 0).

Generator 生成的样本被认为是 fake 样本.

如图1 和图2所示,当训练数据集中的样本作为 Discriminator 的输入时,Discriminator 输出其为 real;当 Generator 生成的样本作为 Discriminator 的输入时,Discriminator 输出其为 fake.

图 1. GAN 网络中的 Generator 和 Discriminator.

2. GAN 判别网络

Discriminator 的目标是尽可能的判断准确.

当 Generator 生成的 fake 样本作为 Discriminator 的输入时,Discriminator 输出 fake;但 Generator 想要生成的样本能够使得 Discriminator 犯错而判别为 real.

在某种角度来说,Generator 是尝试愚弄 Discriminator.

图2. GAN 网络中的 Generator 和 Discriminator.

3. GAN 目标函数

GAN 的目标函数为 min-max 优化表达式,其期望 Generator 最小化目标函数;Discriminator 最大化相同的目标函数.

如图3 目标函数的优化. Discriminator 函数记为 D,Generator 函数记为 G.

Pz 为隐空间(latent space) 的概率分布,其往往是一个随机 Gaussian 分布.

Pdata 是训练数据集的概率分布.

当 x 是从 Pdata 中采样得到时,Discriminator 需要将其归类为 real 样本.

G(z) 是生成的样本,当 G(z) 作为 Discriminator 的输入时,Discriminator 需要将其归类为 fake 样本.

图3. GAN 的目标函数

Discriminator 期望将 D(G(z)) 的可能性(likelihood) 趋向于 0. 因此,Discriminator 最大化 (1 - (D(G(z))));

而 Generator 期望将 D(G(z)) 的可能性(likelihood) 趋向于 1,使得 Discriminator 将生成样本误判为 real. 因此,Generator 最小化(1 - D(G(z))).

图 4. GAN 的目标函数

Last modification:September 3rd, 2020 at 03:48 pm