Submit Search
Upload
2018 07-23
•
1 like
•
937 views
Yuji Oshima
Follow
分析基盤トーク#1 DAFT #1 オープニング資料です.
Read less
Read more
Software
Report
Share
Report
Share
1 of 13
Download now
Download to read offline
Recommended
Katib
Katib
Yuji Oshima
KubeFlowでどこまでいける?
KubeFlowでどこまでいける?
Yuji Oshima
2018 07-19dist
2018 07-19dist
Yuji Oshima
MLCT#12 使われる機能目指して 測ったり試したり
MLCT#12 使われる機能目指して 測ったり試したり
Yuji Oshima
Kubeflowで何ができて何ができないのか #DEvFest18
Kubeflowで何ができて何ができないのか #DEvFest18
Shunya Ueta
Autopilot google kubernetes engineでargo workflowsを動かす
Autopilot google kubernetes engineでargo workflowsを動かす
shouta yoshikai
Introduction to argo
Introduction to argo
Shunya Ueta
Kuberflow Kubernetes上の機械学習プラットフォーム
Kuberflow Kubernetes上の機械学習プラットフォーム
Kosuke Kikuchi
Recommended
Katib
Katib
Yuji Oshima
KubeFlowでどこまでいける?
KubeFlowでどこまでいける?
Yuji Oshima
2018 07-19dist
2018 07-19dist
Yuji Oshima
MLCT#12 使われる機能目指して 測ったり試したり
MLCT#12 使われる機能目指して 測ったり試したり
Yuji Oshima
Kubeflowで何ができて何ができないのか #DEvFest18
Kubeflowで何ができて何ができないのか #DEvFest18
Shunya Ueta
Autopilot google kubernetes engineでargo workflowsを動かす
Autopilot google kubernetes engineでargo workflowsを動かす
shouta yoshikai
Introduction to argo
Introduction to argo
Shunya Ueta
Kuberflow Kubernetes上の機械学習プラットフォーム
Kuberflow Kubernetes上の機械学習プラットフォーム
Kosuke Kikuchi
KubeFlow MeetUp #1 Katibよもやま話
KubeFlow MeetUp #1 Katibよもやま話
Yuji Oshima
KubernetesでGPUクラスタを管理したい
KubernetesでGPUクラスタを管理したい
Yuji Oshima
Introduction to TFX (TFDV+TFT+TFMA)
Introduction to TFX (TFDV+TFT+TFMA)
Shunya Ueta
KubeCon 2021 NA Recap - Scheduler拡張事例最前線 / Kubernetes Meetup Tokyo #47 / #k8sjp
KubeCon 2021 NA Recap - Scheduler拡張事例最前線 / Kubernetes Meetup Tokyo #47 / #k8sjp
Preferred Networks
Google Cloud AI の紹介 @ GCPUG Nara #03
Google Cloud AI の紹介 @ GCPUG Nara #03
Yaboo Oyabu
ディープラーニングイメージで構築する快適・高速な機械学習環境
ディープラーニングイメージで構築する快適・高速な機械学習環境
Yaboo Oyabu
機械学習プロジェクトにおける Cloud AI Platform の使い方 (2018-11-19)
機械学習プロジェクトにおける Cloud AI Platform の使い方 (2018-11-19)
Yaboo Oyabu
20180729 Preferred Networksの機械学習クラスタを支える技術
20180729 Preferred Networksの機械学習クラスタを支える技術
Preferred Networks
Jawsug hpc #2_reinvent2015
Jawsug hpc #2_reinvent2015
Hiroshi Kobayashi
EC2に対するcloudwatchのアクション設定がポリシーで使えないときの代替策
EC2に対するcloudwatchのアクション設定がポリシーで使えないときの代替策
Daisuke Nagao
Ohs#7 学習API
Ohs#7 学習API
祐理 大野
KueCon 2020 NA Recap - Building a Global Supercomputer with Virtual Kubelet /...
KueCon 2020 NA Recap - Building a Global Supercomputer with Virtual Kubelet /...
Preferred Networks
ohs#6 opening
ohs#6 opening
祐理 大野
PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜
PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜
Preferred Networks
20180723 PFNの研究基盤 / PFN research system infrastructure
20180723 PFNの研究基盤 / PFN research system infrastructure
Preferred Networks
Infrakit Docker_Tokyo_meetup
Infrakit Docker_Tokyo_meetup
Yuji Oshima
ゼロから作るKubernetesによるJupyter as a Service ー Kubernetes Meetup Tokyo #43
ゼロから作るKubernetesによるJupyter as a Service ー Kubernetes Meetup Tokyo #43
Preferred Networks
Shiva 〜Nextremerをscale upする機械学習環境〜
Shiva 〜Nextremerをscale upする機械学習環境〜
Kazuki Morozumi
JAWS-UG HPC #0 LT資料
JAWS-UG HPC #0 LT資料
Daisuke Nagao
Machine learning CI/CD with OSS
Machine learning CI/CD with OSS
yusuke shibui
OpenStack Summit Vancouver YVR Ops
OpenStack Summit Vancouver YVR Ops
NTT Communications Technology Development
High performance python computing for data science
High performance python computing for data science
Takami Sato
More Related Content
What's hot
KubeFlow MeetUp #1 Katibよもやま話
KubeFlow MeetUp #1 Katibよもやま話
Yuji Oshima
KubernetesでGPUクラスタを管理したい
KubernetesでGPUクラスタを管理したい
Yuji Oshima
Introduction to TFX (TFDV+TFT+TFMA)
Introduction to TFX (TFDV+TFT+TFMA)
Shunya Ueta
KubeCon 2021 NA Recap - Scheduler拡張事例最前線 / Kubernetes Meetup Tokyo #47 / #k8sjp
KubeCon 2021 NA Recap - Scheduler拡張事例最前線 / Kubernetes Meetup Tokyo #47 / #k8sjp
Preferred Networks
Google Cloud AI の紹介 @ GCPUG Nara #03
Google Cloud AI の紹介 @ GCPUG Nara #03
Yaboo Oyabu
ディープラーニングイメージで構築する快適・高速な機械学習環境
ディープラーニングイメージで構築する快適・高速な機械学習環境
Yaboo Oyabu
機械学習プロジェクトにおける Cloud AI Platform の使い方 (2018-11-19)
機械学習プロジェクトにおける Cloud AI Platform の使い方 (2018-11-19)
Yaboo Oyabu
20180729 Preferred Networksの機械学習クラスタを支える技術
20180729 Preferred Networksの機械学習クラスタを支える技術
Preferred Networks
Jawsug hpc #2_reinvent2015
Jawsug hpc #2_reinvent2015
Hiroshi Kobayashi
EC2に対するcloudwatchのアクション設定がポリシーで使えないときの代替策
EC2に対するcloudwatchのアクション設定がポリシーで使えないときの代替策
Daisuke Nagao
Ohs#7 学習API
Ohs#7 学習API
祐理 大野
KueCon 2020 NA Recap - Building a Global Supercomputer with Virtual Kubelet /...
KueCon 2020 NA Recap - Building a Global Supercomputer with Virtual Kubelet /...
Preferred Networks
ohs#6 opening
ohs#6 opening
祐理 大野
PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜
PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜
Preferred Networks
20180723 PFNの研究基盤 / PFN research system infrastructure
20180723 PFNの研究基盤 / PFN research system infrastructure
Preferred Networks
Infrakit Docker_Tokyo_meetup
Infrakit Docker_Tokyo_meetup
Yuji Oshima
ゼロから作るKubernetesによるJupyter as a Service ー Kubernetes Meetup Tokyo #43
ゼロから作るKubernetesによるJupyter as a Service ー Kubernetes Meetup Tokyo #43
Preferred Networks
Shiva 〜Nextremerをscale upする機械学習環境〜
Shiva 〜Nextremerをscale upする機械学習環境〜
Kazuki Morozumi
JAWS-UG HPC #0 LT資料
JAWS-UG HPC #0 LT資料
Daisuke Nagao
Machine learning CI/CD with OSS
Machine learning CI/CD with OSS
yusuke shibui
What's hot
(20)
KubeFlow MeetUp #1 Katibよもやま話
KubeFlow MeetUp #1 Katibよもやま話
KubernetesでGPUクラスタを管理したい
KubernetesでGPUクラスタを管理したい
Introduction to TFX (TFDV+TFT+TFMA)
Introduction to TFX (TFDV+TFT+TFMA)
KubeCon 2021 NA Recap - Scheduler拡張事例最前線 / Kubernetes Meetup Tokyo #47 / #k8sjp
KubeCon 2021 NA Recap - Scheduler拡張事例最前線 / Kubernetes Meetup Tokyo #47 / #k8sjp
Google Cloud AI の紹介 @ GCPUG Nara #03
Google Cloud AI の紹介 @ GCPUG Nara #03
ディープラーニングイメージで構築する快適・高速な機械学習環境
ディープラーニングイメージで構築する快適・高速な機械学習環境
機械学習プロジェクトにおける Cloud AI Platform の使い方 (2018-11-19)
機械学習プロジェクトにおける Cloud AI Platform の使い方 (2018-11-19)
20180729 Preferred Networksの機械学習クラスタを支える技術
20180729 Preferred Networksの機械学習クラスタを支える技術
Jawsug hpc #2_reinvent2015
Jawsug hpc #2_reinvent2015
EC2に対するcloudwatchのアクション設定がポリシーで使えないときの代替策
EC2に対するcloudwatchのアクション設定がポリシーで使えないときの代替策
Ohs#7 学習API
Ohs#7 学習API
KueCon 2020 NA Recap - Building a Global Supercomputer with Virtual Kubelet /...
KueCon 2020 NA Recap - Building a Global Supercomputer with Virtual Kubelet /...
ohs#6 opening
ohs#6 opening
PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜
PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜
20180723 PFNの研究基盤 / PFN research system infrastructure
20180723 PFNの研究基盤 / PFN research system infrastructure
Infrakit Docker_Tokyo_meetup
Infrakit Docker_Tokyo_meetup
ゼロから作るKubernetesによるJupyter as a Service ー Kubernetes Meetup Tokyo #43
ゼロから作るKubernetesによるJupyter as a Service ー Kubernetes Meetup Tokyo #43
Shiva 〜Nextremerをscale upする機械学習環境〜
Shiva 〜Nextremerをscale upする機械学習環境〜
JAWS-UG HPC #0 LT資料
JAWS-UG HPC #0 LT資料
Machine learning CI/CD with OSS
Machine learning CI/CD with OSS
Similar to 2018 07-23
OpenStack Summit Vancouver YVR Ops
OpenStack Summit Vancouver YVR Ops
NTT Communications Technology Development
High performance python computing for data science
High performance python computing for data science
Takami Sato
アプリケーションエンジニアのためのクラウドインフラ再入門 (2/3)
アプリケーションエンジニアのためのクラウドインフラ再入門 (2/3)
Takashi Sogabe
PTLのお仕事とリリースパイプラインの裏側
PTLのお仕事とリリースパイプラインの裏側
masahito12
Mattermostが働き方を劇的改善!NRIの働き方改革の秘訣
Mattermostが働き方を劇的改善!NRIの働き方改革の秘訣
aslead
Introduction to NetOpsCoding
Introduction to NetOpsCoding
Taiji Tsuchiya
Azure Function GAした!Visual Studio Tools for Azure Functions もプレビューだ!
Azure Function GAした!Visual Studio Tools for Azure Functions もプレビューだ!
Yasuaki Matsuda
Hueによる分析業務の改善事例
Hueによる分析業務の改善事例
Masahiro Kiura
Python による 「スクレイピング & 自然言語処理」入門
Python による 「スクレイピング & 自然言語処理」入門
Tatsuya Tojima
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
Takuya Minagawa
OSSで作るOpenStack監視システム
OSSで作るOpenStack監視システム
satsuki fukazu
持続的な運用開発のために社内基盤を整えている話 〜auditのCI組み込みやlintの社内PKG化〜
持続的な運用開発のために社内基盤を整えている話 〜auditのCI組み込みやlintの社内PKG化〜
bitbank, Inc. Tokyo, Japan
【初心者向け】API を使ってクラウドの管理を自動化しよう
【初心者向け】API を使ってクラウドの管理を自動化しよう
富士通クラウドテクノロジーズ株式会社
20190722 Building handy CI with zuul and OpenStack
20190722 Building handy CI with zuul and OpenStack
Akihiro Motoki
Power biで気づく!現場機器の異常監視システム on azure
Power biで気づく!現場機器の異常監視システム on azure
IoTビジネス共創ラボ
私とOSSの25年
私とOSSの25年
MITSUNARI Shigeo
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
NTT DATA Technology & Innovation
20151024 Azureデータストア概要
20151024 Azureデータストア概要
Keiji Kamebuchi
PythonのGUI_2018 with NSEG
PythonのGUI_2018 with NSEG
Jun Okazaki
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
whywaita
Similar to 2018 07-23
(20)
OpenStack Summit Vancouver YVR Ops
OpenStack Summit Vancouver YVR Ops
High performance python computing for data science
High performance python computing for data science
アプリケーションエンジニアのためのクラウドインフラ再入門 (2/3)
アプリケーションエンジニアのためのクラウドインフラ再入門 (2/3)
PTLのお仕事とリリースパイプラインの裏側
PTLのお仕事とリリースパイプラインの裏側
Mattermostが働き方を劇的改善!NRIの働き方改革の秘訣
Mattermostが働き方を劇的改善!NRIの働き方改革の秘訣
Introduction to NetOpsCoding
Introduction to NetOpsCoding
Azure Function GAした!Visual Studio Tools for Azure Functions もプレビューだ!
Azure Function GAした!Visual Studio Tools for Azure Functions もプレビューだ!
Hueによる分析業務の改善事例
Hueによる分析業務の改善事例
Python による 「スクレイピング & 自然言語処理」入門
Python による 「スクレイピング & 自然言語処理」入門
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
OSSで作るOpenStack監視システム
OSSで作るOpenStack監視システム
持続的な運用開発のために社内基盤を整えている話 〜auditのCI組み込みやlintの社内PKG化〜
持続的な運用開発のために社内基盤を整えている話 〜auditのCI組み込みやlintの社内PKG化〜
【初心者向け】API を使ってクラウドの管理を自動化しよう
【初心者向け】API を使ってクラウドの管理を自動化しよう
20190722 Building handy CI with zuul and OpenStack
20190722 Building handy CI with zuul and OpenStack
Power biで気づく!現場機器の異常監視システム on azure
Power biで気づく!現場機器の異常監視システム on azure
私とOSSの25年
私とOSSの25年
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
20151024 Azureデータストア概要
20151024 Azureデータストア概要
PythonのGUI_2018 with NSEG
PythonのGUI_2018 with NSEG
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
Kubernetesの良さを活かして開発・運用!Cloud Native入門 / An introductory Cloud Native #osc19tk
2018 07-23
1.
2018/07/23 NTT ソフトウェアイノベーションセンタ 大嶋悠司 分析基盤トーク DataAnalysysFoudationTalk
2.
自己紹介 大嶋 悠司 (@overs_5121) NTT ソフトウェアイノベーションセンタ OSS活動が主な業務 •
GoBGP(ソフトウェアBGPルータ) • Docker • Docker/Infrakit (メンテナ) • KubeFlow/Katib (オーナー) KubeFlow/Katibを使ってハイパーパラメータチューニング,ニューラルアーキテク チャサーチの研究なんかも
3.
機械学習,流行って(バズって)ますよね 私自身,研究者なのでそれは嬉しい
4.
機械学習,流行って(バズって)ますよね 私自身,研究者なのでそれは嬉しい でもサービスではモデルを作ったP3インスタンスだけあればいいわけ ではない
5.
よく見る図
6.
意識高まってきてる • SysML https://www.sysml.cc/ •
MLOps https://cloud.withgoogle.com/next18/sf/sessions/session/192579 • 機械学習工学研究会 https://sites.google.com/view/sig-mlse • MLOps Study, MLCT 先駆者達の足跡 • Google TFX http://stevenwhang.com/tfx_paper.pdf • FaceBook FBLearner https://code.fb.com/core-data/introducing-fblearner-flow-facebook-s-ai-backbone/ • Uber Michelangelo https://eng.uber.com/michelangelo/
7.
KubeFlow 今後盛り上がると私が期待するOSS Googleがk8sの次のユースケースとしてMLを期待 k8sというインターフェースでMLツールを連携
8.
KubeFlowの世界観 きれいなフローを定義し,各コンポーネントを個別に利用可能に
9.
KubeFlowの世界観 きれいなフローを定義し,各コンポーネントを個別に利用可能に kubeflow /katib はこのへん ハイパーパラメータを自動で生成、評価
10.
それはいいが • そもそもML基盤の要件とは? • 既存の分析基盤(ETL基盤,Hadoopクラスタ)と何が違う,何が同 じ? •
解決されてないことは? • OSSとして何があると幸せか
11.
それはいいが • そもそもML基盤とは? • 既存の分析基盤(Hadoop,
ETL基盤)と何が違う,何が同じ? • 解決されてないことは? • OSSとして何があると幸せか 先駆者達に直接聞きたい!
12.
僕たちの考えたさいきょうの分析基盤 • 深く議論しましょう! • 発表の時間もそれなりにありますが,別途議論時間を作ってます •
泥臭いこと含め言える範囲で知見を共有しましょう • 各立場から • Dev/Opsだけでなく研究者もいる • 運用者・サービサー,研究者,OSS開発者などの立場からどうなって欲 しいかをためらわず共有しましょう
13.
本日のおしながき 19:00~ クックパッド 染谷さん
中規模R&D組織のリアルな分析基盤 19:50~ PFN 谷脇さん PFNの研究基盤 20:20~ 皆様 議論タイム 次回テーマ投票
Download now