ディープラーニングとHPCのアプリケーションコンテナを取り揃えたレジストリである NVIDIA GPU Cloud (NGC) を紹介します。

1. 誰でも、どこでも、ディープラーニング
NVIDIA GPU CLOUD

2. 2
ディープラーニングの課題
ディープラーニング環境の構築・テスト・
運用をゼロから自分で行うのは、複雑
で時間のかかる作業です。
ディープラーニングのフレームワークは
コミュニティによって非常に速いペースで
開発が進められています。
GPU ドライバ、ライブラリ、DL フレーム
ワークの依存関係を正しく管理するに
は高度な専門性が必要になります。
NVIDIA ライブラリ
NVIDIA Docker
NVIDIA ドライバー
NVIDIA GPU
オープンソースの
フレームワーク

3. 3
NVIDIA GPU CLOUD
数週間ではなく、数分でイノベーションを生み出す
ディープラーニング ソフトウェア環境を構築するため
の複雑な作業を、大幅に軽減します。
クロス プラットフォーム ディープラーニング
NGC のコンテナは、オンプレミスの DGX Systems
や TITAN 搭載 PC だけでなく、各種クラウドの
GPU インスタンスでも同じように動きます。
常に最新
コンテナが最高のパフォーマンスを発揮できるように、
エヌビディアが毎月アップデートを提供します。
誰でも、どこでも、ディープラーニング
NVIDIA GPU Cloud は GPU に最適化された
ディープラーニング フレームワークと各種ライブラリを、
すぐに実行できるコンテナとして無料で提供します。

4. 4
数週間ではなく、数分で
イノベーションを生み出す
ディープラーニングコンテナ
コンテナの利点:
時間のかかるソフトウェアの設定作業削減し、
GPU 対応ソフトウェアのデプロイメントを簡素化。
複数のフレームワークやアプリケーションを安全に分離。
異なる環境間でアプリケーションを簡単に共有。
4

5. 5
クロス プラットフォーム ディープラーニング
NVIDIA Volta あるいは
Pascal 世代の PC 用 GPU
NVIDIA DGX-1 と
DGX Station
TESLA V100 搭載の
Amazon EC2 P3 インスタンス

6. 6
NGC の GPU 最適化ディープラーニング コンテナ
NVCaffe
Caffe2
Chainer
Microsoft Cognitive
Toolkit (CNTK)
DIGITS
MXNet
PyTorch
TensorFlow
Theano
Torch
CUDA (base level
container for developers)
NVIDIA TensorRT inference
accelerator with ONNX
support
ディープラーニングソフトウェアの包括的なカタログ

7. 7
コンテナ化されたアプリケーション
TF Tuned SW
NVIDIA Docker
CNTK Tuned SW
NVIDIA Docker
Caffe2 Tuned SW
NVIDIA Docker
PyTorch Tuned SW
NVIDIA Docker
CUDA RTCUDA RTCUDA RTCUDA RT
Linux Kernel と CUDA ドライバ
Tuned SW
NVIDIA Docker
CUDA RT
Other
Frameworks
and Apps. . .
常に最新
エヌビディアによるフレームワークとコンテナの月例更新

8. 8
コンテナをPULLイメージをデプロイサインアップ
3 ステップで始める AWS と NGC でのディープラーニング
まずは NGC のアカウントを作成
してください。
www.nvidia.com/ngcsignup
お好みのコンテナを PULL して
ください。
これで準備完了です！
NVIDIA Volta Deep
Learning AMI for NGC
で P3 インスタンスを作成！

9. 9
VOLTA でのパフォーマンスを最大化
Tesla K80 の 10 倍以上のパフォーマンスを発揮
0
2
4
6
8
10
12
K80 V100 TC
GPU の世代による学習性能の比較
NGC から提供されるフレームワークは
NVIDIA が Volta 向けに最適化済み
NVIDIA 提供のクラウド イメージは最高
の性能を発揮するようにチューニング
Volta は Tesla K80 との比較で 10 倍
以上のパフォーマンスを発揮
ResNet-152 Training, 8x K80 (16 GPUs total) compared with 8x V100 NVLink GPUs using NVIDIA 17.10 containers

10. 10
まとめ
NVIDIA GPU Cloud はディープラーニングをさらに加速
イノベーションへの
最短経路
全てのプラットフォーム
でディープラーニング
常に最新
サインアップはこちらから (無料): http://www.nvidia.com/ngcsignup

11. 11
NGC 関連情報
NGC ホームページ
https://www.nvidia.com/ja-jp/gpu-cloud/
NGC へのサインアップ（アカウント作成）
http://www.nvidia.com/ngcsignup
NVIDIA GPU CLOUD DOCUMENTATION
http://docs.nvidia.com/ngc/index.html
[YouTube] Get Started with NVIDIA GPU Cloud
https://youtu.be/MXmFRhA1VTk
[Qiita] AWS と Azure と自宅の PC で NVIDIA GPU Cloud (NGC) のコンテナを動かしてみた
https://qiita.com/ksasaki/items/618b2f6c0cacbc7f9584