Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
2018年8月9日
1
ヤフー株式会社 インフラ技術1部 プライベートクラウド 北田 駿也
ヤフーのプライベートクラウドと
クラウドエンジニアの業務について
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
whoami
北田 駿也(Shunya Kitada)
• 2013年新卒入社、プライベートクラウドチーム所属
• OpenStack開発・運用、その他システム開発・運用
• 今日話すこと
• ヤフーのプライベートクラウドについて
• クラウドエンジニアの業務について
2
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
ヤフーのプライベート
クラウドについて
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
ヤフーのプライベートクラウド
ヤフーのプライベートクラウド
= プライベートIaaS(Infrastructure as a Service)
4
ヤフーのインフラ(データセンタ、ネットワークなど)
ヤフーのIaaS
物理サーバ
仮想マシン
物理的なサーバ、
ネットワーク、ストレージ
などのリソースを仮想化
して提供するサービス
実際の物理サーバ数よりも多くの
仮想マシンを作って提供している
VM: 100000+ 台
on HV: 7000+ 台
ヤフーのサービス専用のクラウド
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
サーバの仮想化
5
仮想マシンプロセス
OS
プロセス
OS
プロセス
OS
OS
プロセス
仮想マシンプロセス
OS
プロセス
仮想化
ハイパーバイザ、
親機と呼びます
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
サーバの仮想化
6
仮想マシンプロセス
OS
プロセス
OS
プロセス
OS
OS
プロセス
仮想マシンプロセス
OS
プロセス
仮想化
ハイパーバイザ、
親機と呼びます
なぜ仮想化するのか?メリットは?
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
仮想化のメリット: 作成削除が速い
7
仮想マシンプロセス
OS
OS
プロセス
仮想マシンプロセス
OS
プロセス
マシンがほしい マシンはもういらない
プロセス起動
するだけ
プロセス停止
するだけ
物理サーバは用意す
るのに数カ月かかる
物理サーバは破棄する
のにも数ヶ月かかる
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
仮想化のメリット: 増減が容易
8
仮想マシンプロセス
OS
プロセス
仮想マシンプロセス
OS
プロセス
マシンが100台ほしい
仮想マシンプロセス
OS
プロセス
…
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
仮想化のメリット: 変化できる
9
仮想マシンプロセス
OS
OS
プロセス
仮想マシンプロセス
OS
プロセス
CPU、メモリ、ディ
スクのリソース
もっとほしい!
リソースを割当てるだけ
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
仮想化のメリット: リソース効率化
10
仮想マシンプロセス
OS
OS
プロセス
仮想マシンプロセス
OS
プロセス
CPUは1割使え
れば十分
CPUは2割使
えれば十分
Xeon
CPU
まだ余裕
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
仮想化のデメリット: ノイジーネイバ
11
仮想マシンプロセス
OS
OS
プロセス
仮想マシンプロセス
OS
プロセス
CPUは9割使うぞ!
CPUは2割使え
れば十分
(あれ?処理が
重い・・・)
Xeon
CPUちょっとつらい!
リソースの効率化、割
当て計算が必要!
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
仮想化のメリット: 移動できる
12
仮想マシンプロセス
OS
プロセス
仮想マシンプロセス
OS
プロセス
マイグレーション
ハイパーバイザA ハイパーバイザB
ノイジーネイバのマシン
退避や余裕のあるマシ
ンにプロセスを寄せる
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
サーバの仮想化
13
ヤフーのIaaS
仮想マシン
• 作成削除が早く、増減が容易
• 変化できる
• リソース効率化
• ノイジーネイバ
• 移動できる
?
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
ヤフーとOpenStack
ヤフーのIaaSはOpenStackで構築されています
• OpenStackとはIaaSを構築するためのOSS(Open Source
Software)
• 手順に従ってサーバにソフトウェアをインストール、設定するだけ
で、IaaSクラウドを作ることができる
• 自宅のPCでも作れます!
14
Open Source Software
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
ヤフーのプライベートクラウド
15
ヤフーのインフラ(データセンタ、ネットワークなど)
ヤフーのIaaS
物理サーバ
仮想マシン
ヤフーのプライベートクラウド
= プライベートIaaS(Infrastructure as a Service)
ユーザはインフラを意
識せずに、仮想的なリ
ソースを利用できる
OpenStackで構築されている
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
クラウドエンジニアの
仕事
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
どんな仕事やってるの?
開発業務
• 新規クラスタの構築、デプロイ構成管理
• 監視基盤構築・改善、バグ調査・改善
• コンピュート最適化、最新機器検証
• その他(ストレージ、ネットワーク、機能検証)
運用業務
• チケット問い合わせ対応
• アラート対応
17
DevOps
チーム全員が開発も
運用もやるよ!
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
新規クラスタ構築
1つのOpenStackのセットを作ること
18
認証システム
(Keystone)
イメージ配信システム
(Glance)
ネットワーク管理システム
(Neutron)
コンピュート管理システム
(Nova)
WebUIダッシュボード
(Horizon)
ハイパーバイザ
のプール
物理サーバ数
50 – 500台
大規模なシステム
構築ができる!
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
ヤフーのOpenStackクラスタ
19
データセンタA
データセンタB
データセンタC
OpenStackクラスタ C1
OpenStackクラスタ C2
OpenStackクラスタ B1
OpenStackクラスタ B2
OpenStackクラスタ A1
OpenStackクラスタ A2
全クラスタ数は 80+
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
クラスタ数の増加遷移
20
2013年 2018年
80+クラスタ
クラスタ数
0
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
クラスタ数の増加遷移
21
2013年 2018年
80+クラスタ
10000+ 台のサーバを
監視、運用してる!
どうやって?
クラスタ数
0
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
デプロイ構成管理、監視
• デプロイ構成管理ツール: Chef
• ブートストラップ、構成チェック: Fabric
• コンテナオーケストレーション: Kubernetes
• 監視: Sensu
• メトリクス: Graphite、InfluxDB、Graphana
22
OpenStack以外にもOSSがたくさん!
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
コンピュートの最適化
• リソースの高効率利用のため
• 例えば 100VM 載るホストの効率が 10% 上がれば、もう
10VM 利用可能!
• 仮想化のオーバーヘッドの削減
• オーバーヘッドを減らすことで VM を高速に動作させること
が可能
23
最適化された仮想マシンは、
最適化されてない物理マシンを超える
物理マシン、仮想マシン、OSの知識が活かせる!
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
ヤフーのプライベートクラウド
24
ヤフーのインフラ(データセンタ、ネットワークなど)
ヤフーのIaaS (= OpenStack)
物理サーバ
仮想マシン
データセンタチーム
ネットワークチーム
ハードウェアチーム
クラウドチーム
メディア、広告、サイエンス
全社のサービスを動かすための基盤を作るのが、
インフラ・クラウドエンジニアの仕事です
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
最後に
• クラウドエンジニアはフロントエンドからバックエン
ド、OS、インフラまで幅広い知識が求められる
• 特に低レイヤーの知識が活かせる!
• 知的好奇心旺盛な人におすすめ
• いろんなことがいっぱい知れる!
25
Copyright © 2018 Yahoo Japan Corporation. All Rights Reserved.
EOP

ヤフーのプライベートクラウドとクラウドエンジニアの業務について

  • 1.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 2018年8月9日 1 ヤフー株式会社 インフラ技術1部 プライベートクラウド 北田 駿也 ヤフーのプライベートクラウドと クラウドエンジニアの業務について
  • 2.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. whoami 北田 駿也(Shunya Kitada) • 2013年新卒入社、プライベートクラウドチーム所属 • OpenStack開発・運用、その他システム開発・運用 • 今日話すこと • ヤフーのプライベートクラウドについて • クラウドエンジニアの業務について 2
  • 3.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. ヤフーのプライベート クラウドについて
  • 4.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. ヤフーのプライベートクラウド ヤフーのプライベートクラウド = プライベートIaaS(Infrastructure as a Service) 4 ヤフーのインフラ(データセンタ、ネットワークなど) ヤフーのIaaS 物理サーバ 仮想マシン 物理的なサーバ、 ネットワーク、ストレージ などのリソースを仮想化 して提供するサービス 実際の物理サーバ数よりも多くの 仮想マシンを作って提供している VM: 100000+ 台 on HV: 7000+ 台 ヤフーのサービス専用のクラウド
  • 5.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. サーバの仮想化 5 仮想マシンプロセス OS プロセス OS プロセス OS OS プロセス 仮想マシンプロセス OS プロセス 仮想化 ハイパーバイザ、 親機と呼びます
  • 6.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. サーバの仮想化 6 仮想マシンプロセス OS プロセス OS プロセス OS OS プロセス 仮想マシンプロセス OS プロセス 仮想化 ハイパーバイザ、 親機と呼びます なぜ仮想化するのか?メリットは?
  • 7.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 仮想化のメリット: 作成削除が速い 7 仮想マシンプロセス OS OS プロセス 仮想マシンプロセス OS プロセス マシンがほしい マシンはもういらない プロセス起動 するだけ プロセス停止 するだけ 物理サーバは用意す るのに数カ月かかる 物理サーバは破棄する のにも数ヶ月かかる
  • 8.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 仮想化のメリット: 増減が容易 8 仮想マシンプロセス OS プロセス 仮想マシンプロセス OS プロセス マシンが100台ほしい 仮想マシンプロセス OS プロセス …
  • 9.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 仮想化のメリット: 変化できる 9 仮想マシンプロセス OS OS プロセス 仮想マシンプロセス OS プロセス CPU、メモリ、ディ スクのリソース もっとほしい! リソースを割当てるだけ
  • 10.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 仮想化のメリット: リソース効率化 10 仮想マシンプロセス OS OS プロセス 仮想マシンプロセス OS プロセス CPUは1割使え れば十分 CPUは2割使 えれば十分 Xeon CPU まだ余裕
  • 11.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 仮想化のデメリット: ノイジーネイバ 11 仮想マシンプロセス OS OS プロセス 仮想マシンプロセス OS プロセス CPUは9割使うぞ! CPUは2割使え れば十分 (あれ?処理が 重い・・・) Xeon CPUちょっとつらい! リソースの効率化、割 当て計算が必要!
  • 12.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 仮想化のメリット: 移動できる 12 仮想マシンプロセス OS プロセス 仮想マシンプロセス OS プロセス マイグレーション ハイパーバイザA ハイパーバイザB ノイジーネイバのマシン 退避や余裕のあるマシ ンにプロセスを寄せる
  • 13.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. サーバの仮想化 13 ヤフーのIaaS 仮想マシン • 作成削除が早く、増減が容易 • 変化できる • リソース効率化 • ノイジーネイバ • 移動できる ?
  • 14.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. ヤフーとOpenStack ヤフーのIaaSはOpenStackで構築されています • OpenStackとはIaaSを構築するためのOSS(Open Source Software) • 手順に従ってサーバにソフトウェアをインストール、設定するだけ で、IaaSクラウドを作ることができる • 自宅のPCでも作れます! 14 Open Source Software
  • 15.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. ヤフーのプライベートクラウド 15 ヤフーのインフラ(データセンタ、ネットワークなど) ヤフーのIaaS 物理サーバ 仮想マシン ヤフーのプライベートクラウド = プライベートIaaS(Infrastructure as a Service) ユーザはインフラを意 識せずに、仮想的なリ ソースを利用できる OpenStackで構築されている
  • 16.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. クラウドエンジニアの 仕事
  • 17.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. どんな仕事やってるの? 開発業務 • 新規クラスタの構築、デプロイ構成管理 • 監視基盤構築・改善、バグ調査・改善 • コンピュート最適化、最新機器検証 • その他(ストレージ、ネットワーク、機能検証) 運用業務 • チケット問い合わせ対応 • アラート対応 17 DevOps チーム全員が開発も 運用もやるよ!
  • 18.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 新規クラスタ構築 1つのOpenStackのセットを作ること 18 認証システム (Keystone) イメージ配信システム (Glance) ネットワーク管理システム (Neutron) コンピュート管理システム (Nova) WebUIダッシュボード (Horizon) ハイパーバイザ のプール 物理サーバ数 50 – 500台 大規模なシステム 構築ができる!
  • 19.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. ヤフーのOpenStackクラスタ 19 データセンタA データセンタB データセンタC OpenStackクラスタ C1 OpenStackクラスタ C2 OpenStackクラスタ B1 OpenStackクラスタ B2 OpenStackクラスタ A1 OpenStackクラスタ A2 全クラスタ数は 80+
  • 20.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. クラスタ数の増加遷移 20 2013年 2018年 80+クラスタ クラスタ数 0
  • 21.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. クラスタ数の増加遷移 21 2013年 2018年 80+クラスタ 10000+ 台のサーバを 監視、運用してる! どうやって? クラスタ数 0
  • 22.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. デプロイ構成管理、監視 • デプロイ構成管理ツール: Chef • ブートストラップ、構成チェック: Fabric • コンテナオーケストレーション: Kubernetes • 監視: Sensu • メトリクス: Graphite、InfluxDB、Graphana 22 OpenStack以外にもOSSがたくさん!
  • 23.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. コンピュートの最適化 • リソースの高効率利用のため • 例えば 100VM 載るホストの効率が 10% 上がれば、もう 10VM 利用可能! • 仮想化のオーバーヘッドの削減 • オーバーヘッドを減らすことで VM を高速に動作させること が可能 23 最適化された仮想マシンは、 最適化されてない物理マシンを超える 物理マシン、仮想マシン、OSの知識が活かせる!
  • 24.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. ヤフーのプライベートクラウド 24 ヤフーのインフラ(データセンタ、ネットワークなど) ヤフーのIaaS (= OpenStack) 物理サーバ 仮想マシン データセンタチーム ネットワークチーム ハードウェアチーム クラウドチーム メディア、広告、サイエンス 全社のサービスを動かすための基盤を作るのが、 インフラ・クラウドエンジニアの仕事です
  • 25.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. 最後に • クラウドエンジニアはフロントエンドからバックエン ド、OS、インフラまで幅広い知識が求められる • 特に低レイヤーの知識が活かせる! • 知的好奇心旺盛な人におすすめ • いろんなことがいっぱい知れる! 25
  • 26.
    Copyright © 2018Yahoo Japan Corporation. All Rights Reserved. EOP