ディープラーニング=最小二乗法のどこがダメなのか解説する
21.1k{icon} {views} あるニュース記事で、ディープラーニング=最小二乗法で三次関数なんていう「伝説の画像」が出回っていたので、それに対して突っ込みつつ、非線形関数という立場からディープラーニングの本当の […]...
TPUでも大きなバッチサイズに対して精度を出す
4.3k{icon} {views} TPUでは大きなバッチサイズを適用することが訓練の高速化につながりますが、これは精度と引き換えになることがあります。大きなバッチサイズでも精度を出す方法を論文をもとに調べてみました。 […]...
TPUで学習率減衰させる方法
4.4k{icon} {views} TPUで学習率減衰したいが、TensorFlowのオプティマイザーを使うべきか、tf.kerasのオプティマイザーを使うべきか、あるいはKerasのオプティマイザーを使うべきか非常に […]...
Affinity LossをCIFAR-10で精度を求めてひたすら頑張った話
9.2k{icon} {views} 不均衡データに対して有効性があると言われている損失関数「Affinity loss」をCIFAR-10で精度を出すためにひたすら頑張った、というひたすら泥臭い話。条件10個試したらや […]...
転移学習でネットワーク内でアップサンプリングする方法(Keras)
4.3k{icon} {views} 転移学習でインプットのサイズを揃えなければいけないことがありますが、これをRAM(CPU)上でやるとメモリが不足することがあります。転移学習の重みをそのまま使い、事前にアップサンプリ […]...
TensorFlow/Kerasでネットワーク内でData Augmentationする方法
5.8k{icon} {views} NumpyでData Augmentationするのが遅かったり、書くの面倒だったりすることありますよね。今回はNumpy(CPU)ではなく、ニューラルネットワーク側(GPU、TPU […]...
[Python]OpenCVで画像を歪ませる方法
7.6k{icon} {views} PythonでOpenCVを使い画像を歪ませる方法を考えます。アフィン変換というちょっと直感的に理解しにくいことをしますが、慣れればそこまで難しくはありません。ディープラーニングのD […]...
[Python]OpenCVのアフィン変換でAssertion failed
8.2k{icon} {views} OpenCVのアフィン変換のgetAffineTransformで、起点と終点の行列をちゃんと正しいshapeで指定しているのにもかかわらず「(-215:Assertion fail […]...
Google ColabのTPUでメッセージがうるさいときにやること
3.1k{icon} {views} Google ColabのTPUを使っているとえらいメッセージが表示されて、うるさいときがあります。そんなときにメッセージを消す裏技を発見したので書いていきたいと思います。 こんなメ […]...
条件に応じた配列の要素の抽出をTensorFlowで行う
10k{icon} {views} Numpyで条件を与えて、インデックスのスライスによって配列の要素を抽出する、というようなケースはよくあります。これをTensorFlowのテンソルでやるのにはどうすればいいのでしょう […]...