GANとDCGAN走り書き

生成モデル

データ $\boldsymbol{x}$ から、元の確率分布 $p_g$ を学習することを目標

まず、二つの多層パーセプトロンを用意する。

一つは、ノイズ $\boldsymbol{z}$ を入力として、 $G(\boldsymbol{z};\theta_g)$ をマップ
- $G$ は、微分可能な関数で、重みとして $\theta_g$ をもつニューラルネット。
もう一つは、 $D(\boldsymbol{x};\theta_g)$ として、出力として一つのスカラー値
- これは、データ $\boldsymbol{x}$ が、サンプルデータから来た確率

学習のステップ

$D$ が $\boldsymbol{x}$ の出所を正しく発見できるような確率を最大化しつつ、同時に $G$ の学習として $log(1-D(\boldsymbol{z}))$ を最小化するように学習する。

すなわち、 $D$ と $G$ は、価値関数 $V(G,D)$ のminmaxゲーム $min_{G}max_{D}V(D,G)=\boldsymbol{E}_{\boldsymbol{x}\sim p_{data}{\boldsymbol(x)}}[logD(\boldsymbol{x})] +$

$\boldsymbol{E}_{\boldsymbol{z}\sim p_z(\boldsymbol{z})}[log(1-D(G(\boldsymbol{z})))]$

により最適化する。