TensorflowでGPUを使うときと使わないときの速度比較

Tensorflow 2.6がリリースされているので、アップデートしようとしている。

前回のアップデート

guppi524.hatenablog.jp

の時に、GPUを使っても速度が速くならないのでは?みたいなことを言っていたのだが、あらためてCIFAR-10の画像分類でGPU使用と不使用の学習速度を比較してみた。

  • GPU使用: 実行時間:128.62278509140015[秒]
  • GPU不使用: 実行時間:1797.800853729248[秒]

14倍も違うじゃん。過去の自分がいかに適当でいい加減なことを言ってしまっていて反省。

ちなみにnvidia-smi -l 1でみるとGPU使用時のGPU使用率は95~96%くらいで推移しておりました。

ベンチマークに使用したモデルはこちら。 github.com