カテゴリー: DeepLearning

SwinTransformerでCIFAR-10を一から訓練する

5.4k{icon} {views} 画像のTransformer系で有望なモデルである「Swin Transformer」でCIFAR-10を1から訓練してみました。1からの訓練はCNNほど楽ではありませんが、流行りの […]...

「Patches Are All You Need?」のからくりを読み解く

2.8k{icon} {views} ICLR2022のレビューとして投稿された「Patches Are All You Need?」という論文が気になったので読んでみて、少し試してみました。画像の高周波の成分の活用や、 […]...

ImageNetの訓練時の前処理についてまとめた

15.1k{icon} {views} ImageNetで訓練済みのモデルを使う際の前処理は出てきても、モデルを訓練するときの前処理、特に訓練画像のアスペクト比がまばらなケースでどう前処理するのかがほとんど出てきませんで […]...