PyTorch→ONNXのコンバートでモデルの入力サイズを可変にして推論する 2022-03-20 13.9k{icon} {views} ONNXでモデルは入力サイズを可変にできます。PyTorch→ONNXの変換と、ONNXRuntimeでの推論方法、また可変にしたことによる速度の副作用を検証していきます。 きっか […]...
Google Colabで訓練実行中の裏で定期的にバックアップ取りたい 2022-03-13 1.8k{icon} {views} Google Colabで定期的にGoogle Driveにバックアップにとる方法を紹介します。Linuxコマンドだけでできる単純な方法で、追加の課金は必要ありません。 悲しみを背負 […]...
Windows11+WSL2でGPUのPyTorchを最低限動かすためのオレオレDockerfile 2022-03-13 3.8k{icon} {views} Windows11+WSL2でGPU対応のPyTorchのDockerイメージを1から作る方法を紹介します。CUDAとCuDNNはDockerhubで公開されているnvidiaのイメ […]...
Vue3でVueのインスタンスの外側からデータや関数を参照できない場合 2022-03-12 5k{icon} {views} すべてのコードがVueで完結しない場合など、Vueのインスタンスの外側からVueの関数やデータを参照したいことがたまにあります。そこでしょうもないハマり方したのでメモがてらに書いていきま […]...
Windows11でWSL2+nvidia-dockerでPyTorchを動かすのがすごすぎた 2022-03-08 31.6k{icon} {views} Windows11にはWSL2があり、Linux環境からGPUありのPyTorchを動かすことが可能です。WSL2経由のほうがWindowsネイティブよりも訓練速度が倍になります。 […]...
Albumentationsとtorchvisionで前処理の挙動を揃えたい 2022-03-05 7.1k{icon} {views} AlbumentationsとtorchvisionのToTensorは微妙に挙動が異なります。テンソル化の前処理を揃えないと精度が下がることがあるので、その検証をしていきたいと思い […]...
SwinTransformerで転移学習(EfficientNet/ResNet50との比較) 2021-11-06 8.9k{icon} {views} Swin Transformerを転移学習してみます。1から学習させる場合と異なり、そこまで強いData Augmentationをかけなくても訓練は安定します。訓練済み係数も含め、 […]...
SwinTransformerでCIFAR-10を一から訓練する 2021-11-05 5.5k{icon} {views} 画像のTransformer系で有望なモデルである「Swin Transformer」でCIFAR-10を1から訓練してみました。1からの訓練はCNNほど楽ではありませんが、流行りの […]...
Cosine DecayとWarmupを同時にこなすスケジューラー(timm使用) 2021-11-05 18.3k{icon} {views} 学習初期は徐々に学習率を上げていく「Warmup」と、学習率をなめらかに下げていく「Cosine Annealing」を1つのオプティマイザーとして楽に実装する方法を、timmライ […]...
「Patches Are All You Need?」のからくりを読み解く 2021-10-23 2.9k{icon} {views} ICLR2022のレビューとして投稿された「Patches Are All You Need?」という論文が気になったので読んでみて、少し試してみました。画像の高周波の成分の活用や、 […]...