Google ColabのTPU環境でmodel.fitのhistoryが消える現象

---

Google ColabのTPU環境でmodel.fitしたときに、通常の環境で得られるhistory（誤差や精度のログ）が消えていることがあります。その対応法を示します。

原因はTPU用のモデルに変換したから

まず結論からいうとこの現象はCPU/GPU環境では再発しません。TPU環境特有の現象です。はじめはtensorflow.kerasの仕様変更を疑ったのですが、GPU環境で試した所再発しませんでした。

以下、CPU・GPU環境の場合です。

from tensorflow.contrib.tpu.python.tpu import keras_support
from tensorflow.keras.layers import Input, Dense, Flatten
from tensorflow.keras.datasets import mnist
from tensorflow.keras.optimizers import Adam
from tensorflow.keras.models import Model
from tensorflow.keras.utils import to_categorical
import tensorflow as tf
import time, os

(X_train, y_train), (_, _) = mnist.load_data()
X_train = X_train / 255.0
y_train = to_categorical(y_train)

input = Input((28,28))
x = Flatten()(input)
x = Dense(64, activation="relu")(x)
x = Dense(10, activation="softmax")(x)
model = Model(input, x)
model.compile(Adam(), loss="categorical_crossentropy", metrics=["acc"])

history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
print(history)
print(history.history)

出力は以下の通りです。ちゃんといつもどおりにhistoryが記録されていますね。

<tensorflow.python.keras.callbacks.History object at 0x7fa9ff0bfac8>
{'loss': [0.9659268550713856], 'acc': [0.7527333334287007]}

ところがTPU環境でやると、一度TPU用のモデルに変換するため結果が変わります。model.compile以降のコードは、

tpu_grpc_url = "grpc://"+os.environ["COLAB_TPU_ADDR"]
tpu_cluster_resolver = tf.contrib.cluster_resolver.TPUClusterResolver(tpu_grpc_url)
strategy = keras_support.TPUDistributionStrategy(tpu_cluster_resolver)
model = tf.contrib.tpu.keras_to_tpu_model(model, strategy=strategy)

history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
print(history)
print(history.history)

このようにTPUのモデルに変換します（モデル定義までは同じです）。出力は以下のように変わります。

60000/60000 [==============================] - 8s 127us/step - loss: 0.9767 - acc: 0.7439
None

---------------------------------------------------------------------------
AttributeError                            Traceback (most recent call last)
<ipython-input-7-f379e7ec59a5> in <module>()
     28 history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
     29 print(history)
---> 30 print(history.history)

AttributeError: 'NoneType' object has no attribute 'history'

なんとhistoryが記録されていません。そのためhistory.historyととってもエラーになってしまいます。これに気づくのは訓練が終わった後なので、かなりがっかりすると思います（自分は「は？（半ギレ）」ってなりました）。

よく考えればまあわからなくもなくて、keras_to_tpu_modelでTPUのモデルに変換したから、historyが記録されていないのは仕方がないのかもしれない。または単にバグなのかもしれない。ただし、これは現状解決策があります。

keras.callbacks.Historyを使おう

TensorFlow（Keras）にはHistory用のコールバックが用意されています。

https://www.tensorflow.org/api_docs/python/tf/keras/callbacks/History

割とそっけない説明なのですが、historyを記録してくれるコールバックのようです。これを使ってみましょう。TPU環境でmodel.fit付近を、

from tensorflow.keras.callbacks import History

history = History()
model.fit(X_train, y_train, epochs=1, batch_size=1024, callbacks=[history])
print(history)
print(history.history)

このように変更してみます（Historyクラスの継承や定義は必要ないです）。すると

60000/60000 [==============================] - 8s 140us/step - loss: 0.9938 - acc: 0.7349
<tensorflow.python.keras.callbacks.History object at 0x7f5a4d853780>
{'loss': [0.9938048400561015], 'acc': [0.7349333335558573]}

お、ちゃんとhistoryが取れていますね！　当面はこれで良さそうです。

ちなみにこのHistoryのコールバックはCPU・GPU環境でも有効です。つまりこのコールバックを入れておけばCPU、GPU、TPU全ての環境に対応できるというわけです。

まとめ

TPU環境ではモデルのクラスが変わるため、historyを取りたいときはHistoryのコールバックを使おう。訓練が終わったあとにエラー出て後悔したくないなら忘れないように。以上です。

---

---

Shikoan's ML Blogの中の人が運営しているサークル「じゅ～しぃ～すくりぷと」の本のご案内

---