こしあん
2018-10-02

Google ColabのTPU環境でmodel.fitのhistoryが消える現象


Google ColabのTPU環境でmodel.fitしたときに、通常の環境で得られるhistory(誤差や精度のログ)が消えていることがあります。その対応法を示します。

原因はTPU用のモデルに変換したから

まず結論からいうとこの現象はCPU/GPU環境では再発しません。TPU環境特有の現象です。はじめはtensorflow.kerasの仕様変更を疑ったのですが、GPU環境で試した所再発しませんでした。

以下、CPU・GPU環境の場合です。

from tensorflow.contrib.tpu.python.tpu import keras_support
from tensorflow.keras.layers import Input, Dense, Flatten
from tensorflow.keras.datasets import mnist
from tensorflow.keras.optimizers import Adam
from tensorflow.keras.models import Model
from tensorflow.keras.utils import to_categorical
import tensorflow as tf
import time, os

(X_train, y_train), (_, _) = mnist.load_data()
X_train = X_train / 255.0
y_train = to_categorical(y_train)

input = Input((28,28))
x = Flatten()(input)
x = Dense(64, activation="relu")(x)
x = Dense(10, activation="softmax")(x)
model = Model(input, x)
model.compile(Adam(), loss="categorical_crossentropy", metrics=["acc"])

history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
print(history)
print(history.history)

出力は以下の通りです。ちゃんといつもどおりにhistoryが記録されていますね。

<tensorflow.python.keras.callbacks.History object at 0x7fa9ff0bfac8>
{'loss': [0.9659268550713856], 'acc': [0.7527333334287007]}

ところがTPU環境でやると、一度TPU用のモデルに変換するため結果が変わります。model.compile以降のコードは、

tpu_grpc_url = "grpc://"+os.environ["COLAB_TPU_ADDR"]
tpu_cluster_resolver = tf.contrib.cluster_resolver.TPUClusterResolver(tpu_grpc_url)
strategy = keras_support.TPUDistributionStrategy(tpu_cluster_resolver)
model = tf.contrib.tpu.keras_to_tpu_model(model, strategy=strategy)

history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
print(history)
print(history.history)

このようにTPUのモデルに変換します(モデル定義までは同じです)。出力は以下のように変わります。

60000/60000 [==============================] - 8s 127us/step - loss: 0.9767 - acc: 0.7439
None

---------------------------------------------------------------------------
AttributeError                            Traceback (most recent call last)
<ipython-input-7-f379e7ec59a5> in <module>()
     28 history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
     29 print(history)
---> 30 print(history.history)

AttributeError: 'NoneType' object has no attribute 'history'

なんとhistoryが記録されていません。そのためhistory.historyととってもエラーになってしまいます。これに気づくのは訓練が終わった後なので、かなりがっかりすると思います(自分は「は?(半ギレ)」ってなりました)。

よく考えればまあわからなくもなくて、keras_to_tpu_modelでTPUのモデルに変換したから、historyが記録されていないのは仕方がないのかもしれない。または単にバグなのかもしれない。ただし、これは現状解決策があります

keras.callbacks.Historyを使おう

TensorFlow(Keras)にはHistory用のコールバックが用意されています。

https://www.tensorflow.org/api_docs/python/tf/keras/callbacks/History

割とそっけない説明なのですが、historyを記録してくれるコールバックのようです。これを使ってみましょう。TPU環境でmodel.fit付近を

from tensorflow.keras.callbacks import History

history = History()
model.fit(X_train, y_train, epochs=1, batch_size=1024, callbacks=[history])
print(history)
print(history.history)

このように変更してみます(Historyクラスの継承や定義は必要ないです)。すると

60000/60000 [==============================] - 8s 140us/step - loss: 0.9938 - acc: 0.7349
<tensorflow.python.keras.callbacks.History object at 0x7f5a4d853780>
{'loss': [0.9938048400561015], 'acc': [0.7349333335558573]}

お、ちゃんとhistoryが取れていますね! 当面はこれで良さそうです。

ちなみにこのHistoryのコールバックはCPU・GPU環境でも有効です。つまりこのコールバックを入れておけばCPU、GPU、TPU全ての環境に対応できるというわけです。

まとめ

TPU環境ではモデルのクラスが変わるため、historyを取りたいときはHistoryのコールバックを使おう。訓練が終わったあとにエラー出て後悔したくないなら忘れないように。以上です。

Related Posts

Kerasのバックエンドで「○○以上☓☓以下」を計算する方法... Kerasのバックエンド関数を使ったときに「○○以上☓☓以下」を求めたい場合があります。しかし、KerasではAndのような論理演算をすると少し困ることがあります。その方法を解説します。 10×10の行列 0~99の数字を並べた「10×10」の行列を用意します。TensorFlowのテンソルで...
ColabのTPUでNASNet Largeを訓練しようとして失敗した話... ColabのTPUはとてもメモリ容量が大きく、計算が速いのでモデルのパラメーターを多くしてもそこまでメモリオーバーor遅くなりません。ただし、あまりにモデルが深すぎると訓練の初期設定で失敗することがあります。NASNet Largeを訓練しようとして発生しました。これを見ていきます。 CIFAR...
TensorFlowで値のソートをする方法 TensorFlowでNumpyのnp.sortやnp.argsortのようなソートを行うことを考えます。一般にTensorFlowで値のソートというと、自動微分もあわさって難しいように思えますが、実はちゃんとソートできます。うまくやればKerasからも使うことができます。 tf.nn.top_...
Google Colaboratoryで保存したKerasのモデルを読み込むとValueError... Google Colaboratory(Colab)上のKerasでh5形式で保存したモデルをダウンロードして、load_modelすると「TypeError: ('Keyword argument not understood:', 'data_format')」とエラーが発生して読み込めないこ...
Kerasで損失関数に複数の変数を渡す方法... Kerasで少し複雑なモデルを訓練させるときに、損失関数にy_true, y_pred以外の値を渡したいときがあります。クラスのインスタンス変数などでキャッシュさせることなく、ダイレクトに損失関数に複数の値を渡す方法を紹介します。 元ネタ:Passing additional arguments...

Add a Comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です