こしあん
2018-10-02

Google ColabのTPU環境でmodel.fitのhistoryが消える現象


Google ColabのTPU環境でmodel.fitしたときに、通常の環境で得られるhistory(誤差や精度のログ)が消えていることがあります。その対応法を示します。

原因はTPU用のモデルに変換したから

まず結論からいうとこの現象はCPU/GPU環境では再発しません。TPU環境特有の現象です。はじめはtensorflow.kerasの仕様変更を疑ったのですが、GPU環境で試した所再発しませんでした。

以下、CPU・GPU環境の場合です。

from tensorflow.contrib.tpu.python.tpu import keras_support
from tensorflow.keras.layers import Input, Dense, Flatten
from tensorflow.keras.datasets import mnist
from tensorflow.keras.optimizers import Adam
from tensorflow.keras.models import Model
from tensorflow.keras.utils import to_categorical
import tensorflow as tf
import time, os

(X_train, y_train), (_, _) = mnist.load_data()
X_train = X_train / 255.0
y_train = to_categorical(y_train)

input = Input((28,28))
x = Flatten()(input)
x = Dense(64, activation="relu")(x)
x = Dense(10, activation="softmax")(x)
model = Model(input, x)
model.compile(Adam(), loss="categorical_crossentropy", metrics=["acc"])

history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
print(history)
print(history.history)

出力は以下の通りです。ちゃんといつもどおりにhistoryが記録されていますね。

<tensorflow.python.keras.callbacks.History object at 0x7fa9ff0bfac8>
{'loss': [0.9659268550713856], 'acc': [0.7527333334287007]}

ところがTPU環境でやると、一度TPU用のモデルに変換するため結果が変わります。model.compile以降のコードは、

tpu_grpc_url = "grpc://"+os.environ["COLAB_TPU_ADDR"]
tpu_cluster_resolver = tf.contrib.cluster_resolver.TPUClusterResolver(tpu_grpc_url)
strategy = keras_support.TPUDistributionStrategy(tpu_cluster_resolver)
model = tf.contrib.tpu.keras_to_tpu_model(model, strategy=strategy)

history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
print(history)
print(history.history)

このようにTPUのモデルに変換します(モデル定義までは同じです)。出力は以下のように変わります。

60000/60000 [==============================] - 8s 127us/step - loss: 0.9767 - acc: 0.7439
None

---------------------------------------------------------------------------
AttributeError                            Traceback (most recent call last)
<ipython-input-7-f379e7ec59a5> in <module>()
     28 history = model.fit(X_train, y_train, epochs=1, batch_size=1024)
     29 print(history)
---> 30 print(history.history)

AttributeError: 'NoneType' object has no attribute 'history'

なんとhistoryが記録されていません。そのためhistory.historyととってもエラーになってしまいます。これに気づくのは訓練が終わった後なので、かなりがっかりすると思います(自分は「は?(半ギレ)」ってなりました)。

よく考えればまあわからなくもなくて、keras_to_tpu_modelでTPUのモデルに変換したから、historyが記録されていないのは仕方がないのかもしれない。または単にバグなのかもしれない。ただし、これは現状解決策があります

keras.callbacks.Historyを使おう

TensorFlow(Keras)にはHistory用のコールバックが用意されています。

https://www.tensorflow.org/api_docs/python/tf/keras/callbacks/History

割とそっけない説明なのですが、historyを記録してくれるコールバックのようです。これを使ってみましょう。TPU環境でmodel.fit付近を

from tensorflow.keras.callbacks import History

history = History()
model.fit(X_train, y_train, epochs=1, batch_size=1024, callbacks=[history])
print(history)
print(history.history)

このように変更してみます(Historyクラスの継承や定義は必要ないです)。すると

60000/60000 [==============================] - 8s 140us/step - loss: 0.9938 - acc: 0.7349
<tensorflow.python.keras.callbacks.History object at 0x7f5a4d853780>
{'loss': [0.9938048400561015], 'acc': [0.7349333335558573]}

お、ちゃんとhistoryが取れていますね! 当面はこれで良さそうです。

ちなみにこのHistoryのコールバックはCPU・GPU環境でも有効です。つまりこのコールバックを入れておけばCPU、GPU、TPU全ての環境に対応できるというわけです。

まとめ

TPU環境ではモデルのクラスが変わるため、historyを取りたいときはHistoryのコールバックを使おう。訓練が終わったあとにエラー出て後悔したくないなら忘れないように。以上です。

Related Posts

TensorFlow/Kerasでネットワーク内でData Augmentationする方法... NumpyでData Augmentationするのが遅かったり、書くの面倒だったりすることありますよね。今回はNumpy(CPU)ではなく、ニューラルネットワーク側(GPU、TPU)でAugmetationをする方法を見ていきます。 こんなイメージ Numpy(CPU)でやる場合 Num...
Kerasのバックエンドで「○○以上☓☓以下」を計算する方法... Kerasのバックエンド関数を使ったときに「○○以上☓☓以下」を求めたい場合があります。しかし、KerasではAndのような論理演算をすると少し困ることがあります。その方法を解説します。 10×10の行列 0~99の数字を並べた「10×10」の行列を用意します。TensorFlowのテンソルで...
Kerasでメモリ使用量を減らしたかったらmax_queue_sizeを調整しよう... Kerasで大きめの画像を使ったモデルを訓練していると、メモリが足りなくなるということがよくあります。途中処理の変数のデータ型(np.uint8)を変えるのだけではなく、max_queue_sizeの調整をする必要があることがあります。それを見ていきます。 メモリサイズの目安 ニューラルネット...
Google ColabのTPUでメッセージがうるさいときにやること... Google ColabのTPUを使っているとえらいメッセージが表示されて、うるさいときがあります。そんなときにメッセージを消す裏技を発見したので書いていきたいと思います。 こんなメッセージ おそらくTPUがまだ実験段階だからかと思われますが、デフォルトだとこんな感じにずらずらとログが流れます...
BrestCancerデータセットをCNNで分類する 構造化データを畳み込みニューラルネットワーク(CNN)で分析することを考えます。BrestCancerデータセットはScikit-learnに用意されている、乳がんが良性か悪性かの2種類を分類する典型的な構造化データです。サンプル数569、データの次元30の典型的な構造化データです。 なぜ畳み込...

Add a Comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です