GAN Lecture 4 (2018): Basic Theory

生成任务目标是找到一个distribution

有一个distribution ,对应的是人脸

gan的任务就是找出这一个distribution

之前生成任务做法

Maximum Likelihood Estimation

找一个 $\theta$,使得两个domain之间的KL距离最小

mainflod

由于 G 是一个深层次的网络，所以从简单的输入z映射到一个复杂的结果

Generator 的目标使得 生成结果$P_G$和$P_{data}$越近越好

问题： 我们并不知道$P_G$和$P_{data}$这两个东西具体是什么

Discriminator 用来度量$P_G$和$P_{data}$

数学证明 目标函数 等价于 最大分类的divergence

把目标结果带入原问题得到的结果就是 JS Divergence

最好的Generator是哪一个

min max 问题

怎么求解

问题，其实G变化了，如果太大了，那就不再是原来的divergence

实际上是怎么做的 sample,cross entropy

总的Gan算法回顾

实际训练中的 Generator 的目标函数

直观理解

问题

1 最后 D 变成了什么，可能成了一个分类器？