AI Platform with Kubernetes and GPU in Private Cloud #GTC21
•
1 like•1,607 views
GTC 2021に登壇した際の資料となります。 https://www.nvidia.com/en-us/gtc/catalog/?linkId=100000039037143&search=S31217# Yahoo! JAPANでは、機械学習/ディープラーニング向けのAI Platformをオンプレミスで構築し、社内のサイエンティストとサービス開発者に広く利用されています。従来、社内における、GPUなどの計算リソース活用は非効率であり、エンジニアにとってGPUを含めた機械学習環境の構築・運用、開発のコストも非常に高いものでした。そこで、AI Platformの提供により、計算リソースの有効利用を促進し、なおかつ、利用者にとってより最適な実行環境の実現を進めています。 本資料では、Kubernetes、NVIDIA GPU、Mellanox NICなどを用いて構成されるAI Platformについて、インフラレイヤーの説明からプラットフォームの全体構成、提供機能、実際の運用で直面した問題の事例について紹介します。
