SA-GANの実装から見る画像のSelf attention
11k{icon} {views} 自然言語処理でよく使われるSelf-attentionは画像処理においてもたびたび使われることがあります。自然言語処理のは出てきても、画像のはあまり情報が出てこなかったので、SAGAN […]...
PyTorchでweight clipping
3.5k{icon} {views} WGANの論文見てたらWeight Clippingしていたので、簡単な例を実装して実験してみました。かなり簡単にできます。それを見ていきましょう。 Weight Clippingと […]...
PyTorchでGANの訓練をするときにrequires_grad(trainable)の変更はいるのかどうか
6.7k{icon} {views}PyTorchでGANのある実装を見ていたときに、requires_gradの変更している実装を見たことがあります。Kerasだとtrainableの明示的な変更はいるんで、もしかして […]...
GANでGeneratorの損失関数をmin(log(1-D))からmaxlog Dにした場合の実験
11.3k{icon} {views} GANの訓練をうまくいくためのTipとしてよく引用される、How to train GANの中から、Generatorの損失関数をmin(log(1-D))からmaxlog Dにし […]...