カテゴリー: DeepLearning

KerasのLearningRateSchedulerとPyTorchのLambdaLRの微妙な違い

4.7k{icon} {views} 学習率の調整は大事です。エポック後に学習率を減衰させる際、現在のエポックを引数として更新後の学習率を返す関数を与えると便利なことが多いです。この操作はKeras,PyTorchどちら […]...

ML Study Jams中級編終わらせてきた

971{icon} {views} ML Study JamsというGoogle Cloudが提供している無料の学習プログラムの第二弾がオープンしています。今度は中級編が追加されており、全部終わらせてきたのでその報告と感 […]...

TPUでも大きなバッチサイズに対して精度を出す

4.3k{icon} {views} TPUでは大きなバッチサイズを適用することが訓練の高速化につながりますが、これは精度と引き換えになることがあります。大きなバッチサイズでも精度を出す方法を論文をもとに調べてみました。 […]...