PyTorchでSliced Wasserstein Distance (SWD)を実装した
1.2k{icon} {views} PyTorchでSliced Wasserstein Distance (SWD)を実装してみました。オリジナルの実装はNumpyですが、これはPyTorchで実装しているので、GP […]...
PyTorchで画像を小さいパッチに切り出す方法
2.1k{icon} {views} PyTorchで1枚の画像を複数の小さい画像(パッチ)に切り出す方法を紹介します。TensorFlowだとtf.image.extract_patchesにあたる処理です。 torc […]...
PyTorchでガウシアンピラミッド+ラプラシアンピラミッド(Gaussian/Laplacian Pyramid)
3.9k{icon} {views} Progressive-GANの論文で、SWD(Sliced Wasserstein Distance)が評価指標として出てきたので、その途中で必要になったガウシアンピラミッド、ラプ […]...
PyTorchでConvolutionフィルターをやる(エッジ検出やアンシャープマスク)
1.3k{icon} {views} PyTorchでPILのConvolutionフィルター(エッジ検出やアンシャープマスク)をやりたくなったので、どう実装するか考えてみました。 やりたいこと PIL/PillowのC […]...
PyTorchで双方向連結リストなデータ構造のモデルを作る
301{icon} {views} ディープラーニングのモデルには、訓練の途中でレイヤーを追加するなど特殊な訓練をするものがあります(Progressive-GANなど)。そのとき、モデルを「レイヤーやブロックの連結リス […]...
PyTorchで複数のGPUで訓練するときのSync Batch Normalizationの必要性
5.7k{icon} {views} PyTorchにはSync Batch Normalizationというレイヤーがありますが、これが通常のBatch Normzalitionと何が違うのか具体例を通じて見ていきます […]...
Self-attention GAN(SAGAN)を実装して遊んでみた
2.5k{icon} {views} 前回の投稿では、Spectral Noramlizationを使ったGAN「SNGAN」を実装しましたが、それの応用系であるSelf-attention GAN「SAGAN」を実装し […]...
Spectral Normalization(SNGAN)を実装していろいろ遊んでみた
4.7k{icon} {views} GANの安定化の大きなブレイクスルーである「Spectral Normalization」をPyTorchで実装していろいろ遊んでみました。従来のGANよりも多クラスの出力がかなりや […]...
SA-GANの実装から見る画像のSelf attention
4.9k{icon} {views} 自然言語処理でよく使われるSelf-attentionは画像処理においてもたびたび使われることがあります。自然言語処理のは出てきても、画像のはあまり情報が出てこなかったので、SAGA […]...
PyTorchでweight clipping
1.1k{icon} {views} WGANの論文見てたらWeight Clippingしていたので、簡単な例を実装して実験してみました。かなり簡単にできます。それを見ていきましょう。 Weight Clippingと […]...