AWS/Openstack integration with openQRM
Upcoming SlideShare
Loading in...5
×
 

AWS/Openstack integration with openQRM

on

  • 506 views

JTF2014で話した資料です「ハイブリッド・クラウド自動化基盤openQRMで実現する OpenStack/AWS統合管理」

JTF2014で話した資料です「ハイブリッド・クラウド自動化基盤openQRMで実現する OpenStack/AWS統合管理」

Statistics

Views

Total Views
506
Views on SlideShare
495
Embed Views
11

Actions

Likes
2
Downloads
12
Comments
0

2 Embeds 11

http://s.deeeki.com 9
https://twitter.com 2

Accessibility

Categories

Upload Details

Uploaded via as Adobe PDF

Usage Rights

© All Rights Reserved

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Processing…
Post Comment
Edit your comment

AWS/Openstack integration with openQRM AWS/Openstack integration with openQRM Presentation Transcript

  • ハイブリッド・クラウド⾃自動化基盤 openQRMで実現する OpenStack/AWS統合管理 2014/6/22 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved http://www.ossl.co.jp Mail: funai@ossl.co.jp Twitter: @satoruf FaceBook: http://www.facebook.com/satoru.funai LinkedIn: http://jp.linkedin.com/in/satorufunai/ja 1 Open Programmable Infrastructure Environment
  • システム運⽤用の⽬目的 l  サービスの継続的提供 ビジネスに価値のあるサービスを、 l  より素早く ⇨計画 リリースの期間を短く l  ⽋欠陥を減らし ⇨性能低下、障害発⽣生の防⽌止 l  効率を改善し ⇨サポートコストの削減 継続的に提供する l  障害対応 障害発⽣生時に l  迅速にサービスを復旧し l  再発を防⽌止する 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 2
  • ⼿手作業の運⽤用の問題 l  撲滅できない操作ミス l  タイプミス l  ⼿手順書のタイポ l  エラー時のロールバック⼿手順不備 l  原因不明の障害 l  開発環境、検証環境、本番環境が微妙に異なる(ライブラリやOS設定) l  環境によって操作⼿手順が異なる l  そもそも⼿手作業なので、再現が困難 l  ⾮非効率、⾮非⼈人間的な作業 l  端末操作、⼿手順書読み上げ、作業確認の3⼈人体制 l  ⻑⾧長時間にわたる操作の緊張と重圧 l  リリースサイクルの⻑⾧長期化 l  変更が適⽤用されるまでに、次の変更要求が滞留 l  変更頻度が少ないため、変更箇所が増え、変更のリスクが増⼤大 l  環境の複雑化への対応が困難 l  仮想化、クラウド化によってシステム環境が複雑化し、動的な変更/変化が発⽣生 l  それに伴い作業⼿手順も複雑化し、メンテナンスが困難に 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 3
  • 運⽤用管理⾃自動化基盤の役割 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 4 要件 定義 設計 コーデ ィング テスト 継続的 インテグ レーション 開発サイクルの⾼高速化 ジョブ管 理 監視 検知 リカバリ 運⽤用 サイクル 運⽤用サイクルの⾃自動化 運⽤用引き継ぎの⾃自動化 バージョン管理 構成管理 ⾃自動デプロイ ⾃自動テスト •  全てプログラム化 •  どの環境でも同じ⼿手順 •  何度実⾏行行しても同じ結果を再現 •  作業結果をログに保存
  • 構成管理及びリリース管理の成熟度モデル 「継続的デリバリー   信頼できるソフトウェアリリースのためのビルド・テスト・デプロイメントの⾃自動化」 David Farley (著), Jez Humble (著), 和智 右桂 (翻訳), ⾼高⽊木 正弘 (翻訳) アスキー・メディアワークス (2012/3/14) 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 5   レベル -1 レベル 0 レベル 1 レベル 2 レベル 3 プラクティス リグレッションエラー多発:
 プロセスは繰返せず管理も貧 弱、そして対症療法を行ってい る。 繰返し可能:
 プロセスは文書化され、一部 は自動化されている。 一貫している:
 自動化されたプロセスが、アプ リケーションのライフサイクル 全体に適用されている。 定量的な管理:
 プロセスが計測可能で制御さ れている。 最適化:
 プロセスの改善に注力する。 ビルド管理及び 継続的インテグ レーション ソフトウェアのビルド手順が手 動である。成果物やビルド結果 の管理をしていない。 普段のビルドやテストを自動化 している。全てのビルドはソー ス管理システムを使って自動 化された手順で再現できる。 自動ビルドと自動テストのサイ クルを、変更がコミットされるた びに実行する。依存関係を管 理する。スクリプトやツールを 再利用する。 ビルドメトリクスを収集して可視 化し、それに基づいて作業する。 ビルドを壊れたままにしない。 チームで定期的に話し合いの 場を持ち、統合時の問題やそ の自動化による解決、素早い フィードバック、そしてより良い 可視化について議論する。 環境及びデプロ イメント ソフトウェアのデプロイ手順が 手動である。バイナリが環境に 依存する。環境の配布が手動 である。 一部の環境ではデプロイを自 動化している。新しい環境を手 軽に作成できる。全ての構成 情報を外に出してバージョン管 理する。 ソフトウェアのデプロイは完全 に自動化され、ボタンを押すだ けで完結する。全ての環境に 対して同じ手順でデプロイする。 統合したデプロイ管理、リリー スやリリース取消の手順もテス トしている。 全ての環境がうまく管理されて いる。プロビジョニングは完全 に自動化、仮想化を適切に活 用する。 リリース管理及 びコンプライア ンス リリース頻度が低く、しかも信 頼できない。 面倒で頻度も低く、信頼できな いリリース、リリース要件に関 するトレーサビリティも限定的。 変更管理とその承認プロセス が定義され、それを守っている。 規約を遵守している。 環境はアプリケーションの健康 状態を監視し、能動的に管理 している。サイクルタイムを監 視している。 運用チームとデリバリーチーム が協力し、リスク管理やサイク ルタイム削減を行う。 テスト 開発をした後に手作業でのテ ストを実施する。 ストーリーの開発の一環として 自動テストを書く。 ユニットテストや受入テストを 自動化する。受入テストはテス ターが書く。テストが開発プロ セスに組み込まれている。 品質のメトリクスとその傾向を 追跡する。非機能要件を定義 し、計測する。 本番環境への変更の取消は 滅多に発生しない。問題があ ればすぐに見つかり、すぐに修 正される。 データ管理 データのマイグレーションはバ ージョン管理されておらず、手 作業で操作する。 データベースへの変更は自動 化したスクリプトで行い、スクリ プトはアプリケーションと共に バージョン管理する。 データベースの変更はデプロ イメントプロセスの一環として 自動的に行う。 データベースの更新やロール バックはデプロイの度にテスト される。データベースのパフ ォーマンスを監視、最適化する。 リリースのたびに、データベー スのパフォーマンスやデプロイ メントプロセス自体についての フィードバックを得る。 構成管理 バージョン管理システムを使っ ていない、あるいは使っていて も滅短チェックインしない。 バージョン管理システムを使っ て、ソフトウェアの作成に必要 な物を全て管理する。ソースコ ードや設定ファイル、ビルドや デプロイ用スクリプト、データの マイグレーション等。 ライブラリや依存関係を管理す る。バージョン管理システムの 利用ポリシーは、変更管理プ ロセスで定義する。 開発者は、少なくとも1日1度 はメインラインにチェックインす る。ブランチはリリース作業の ときだけ使う。 変更管理のポリシーを常に検 証し、効率的な共同作業や素 早いデプロイができているかを 確かめる。また、変更管理プロ セスの可監査性もチェックする。
  • 概念アーキテクチャ 運⽤用ポータル ジョブモニタ リソースモニタ チケットモニタ カレンダ イベントモニタ ニュース 監視/アラート サービスデスク/ 構成管理/変更管理 チケット作成 障害通知 プロジェクト管理作業依頼 ソースコード管理 コード 作成/修正 デプロイツール ジョブ管理 クラウドAPI テスト デバッグ リリース クラウド プロバイダ リソース結果登録 オーケストレー ションレイヤ イメージ 置場 レポジトリ CMDB メール 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 6
  • Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved i-doit Ralph Cobbler LinuxCOE Clonezilla GlusterFS Ceph Puppet Ansible Nagios Zabbix openvswith ネットワーク管理 アプリケーション フレームワーク 監視 資源管理 (クラウド/VM/実機/ストレージ) OSインストール 初期設定 アプリケーション構成 コマンド自動実行 Fabric 運⽤用管理⾃自動化基盤構成スタック JobScheduler ジョブ管理 14/06/23 7 サービスデスク/工程管理/リポジトリ Redmine Git/svn OTRS 構成管理/CMDB
  • ハイブリッドクラウド⾃自動化基盤:openQRM 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 8 オンプレミス (物理・仮想マシン) プライベートクラウド (仮想マシン) パブリッククラウドサービス (仮想マシン) IPMI API システム イメージ システム イメージ クラウド管理 ダッシュボード ユーザ ポータル AMI VMware, KVM, Xen, etc. プロビジョニ ング OSインスト ール 各種 設定 アプリインス トール 運用 監視 移行 HA/DR ユーザ管理 課金管理 •  ベアメタル •  AWS •  OpenStack •  VMware •  KVM/Xen •  LXC/OpenVZ •  LinuxCOE •  Cobbler •  Clonezilla •  FAI, OPSI •  Puppet •  Ansible •  Kickstart •  preseed •  ZABBIX •  Nagios/Icinga •  Collectd •  idoit •  Live Migration •  イメージインポート/エキスポート •  LCMC •  Pacemaker, Corosync, Heartbeat, DRBD •  OpenLDAP 移⾏行行 移⾏行行 API
  • 異種クラウド環境を統合管理 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 9 オンプレミス (物理・仮想マシン) プライベートクラウド (仮想マシン) パブリッククラウドサービス (仮想マシン) クラウド管理 ダッシュボード VMware, KVM, Xen, etc. ⼀一つのインターフェースで、全ての環境の リソース管理、⾃自動インストール、アプリケーション配備、 監視設定、構成管理、サービスレベル管理
  • 異種クラウド間のシステム双⽅方向移⾏行行 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 10 オンプレミス (物理・仮想マシン) プライベートクラウド (仮想マシン) パブリッククラウドサービス (仮想マシン) クラウド管理 ダッシュボード VMware, KVM, Xen, etc. ⼀一つのシステムイメージを、全ての環境間で、双⽅方向に移⾏行行 システム イメージ システム イメージ AMI 移⾏行行 移⾏行行
  • セルフサービス化と課⾦金金管理・リソース管理 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 11 オンプレミス (物理・仮想マシン) プライベートクラウド (仮想マシン) パブリッククラウドサービス (仮想マシン) ユーザ ポータル VMware, KVM, Xen, etc. セルフサービスポータル・管理APIの提供と 課⾦金金管理・リソース管理
  • 運⽤用管理⾃自動化基盤の効果 l  継続的デリバリーの実現 l  リリースの多頻度化により、リリースのリスクを低減 l  ビジネスサイクルの⾼高速化に適応 l  構築 実装 サービス稼働までプログラム化 l  コスト低減、ミスの削減、期間短縮 l  運⽤用管理の集中化 l  ⼈人に依存しない標準化、品質向上 l  広域分散環境に対応 l  AWS等のクラウドサービスから、オンプレミスの既存物理サーバまで⼀一元管 理 l  リソースの最適化 l  ⽬目的に応じて最適なプラットフォームにアプリケーションを移動 l  DR/BCPへ対応 l  DR/BCPの⾃自動化 14/06/23 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 12 Open Programmable Infrastructure Environment
  • AWS/Openstackインテグレーション(1) l  openQRMコンソールから、AWS/Openstackアカウントを管理 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 13
  • AWS/Openstackインテグレーション(2) l  openQRMコンソールから、インスタンスの作成/起動/停⽌止/削除 l  Nagios/Zabbix/Ansible/Puppetの設定も⾃自動化 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 14
  • AWSインテグレーション(3) l  EBS/snapshotの管理 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 15 Openstack対応絶賛開発中
  • AWSインテグレーション(4) l  openQRMコンソールから、S3/AMIの管理 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 16 Openstack対応絶賛開発中
  • openQRMシステム概要 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved サーバイメージ・ストレージ openQRMサーバ DHCP PXE 仮想化環境 VMware, Xen, KVM, lxc, OpenVZ DNS プラグイン・マネージャ Linux Windows NFS SAN iSCSI Gluster FS他 物理環境 Intel/AMD x64アーキテクチャ Linux Windows クラウド・サービス その他 プラグイン API クラウド 管理者 コンソール ユーザ 管理者 コンソール Solaris SolarisPXE ブート 構成情報取得 サーバイメージ ダウンロード tftpd, SAN Local, 他 サーバイメージ変換 REST API 17
  • プラグイン  アーキテクチャ l  openQRMサーバは、プラグインの管理機能のみ l  必要な機能は全てプラグインで提供 l  APIも提供されているため、カスタムプラグインの開発が可能 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 仮想化環境プラグイン •  VMware ESXi •  Citrix XEN server •  KVM/libvirtd •  OpenVZ •  Lxc •  Local Server (ベアメタル) クラウド管理プラグイン •  セルフサービスポータル •  ハイブリッド・クラウド (AWS/Openstack/ Eucalyptus) •  イメージシェルフ •  ECサポート* ストレージプラグイン •  Local LVM/Block •  tmpfs •  NFS •  iSCSI •  AOE (ATA over Ethernet) •  GlusterFS 管理ツールプラグイン •  Nagios/Icinga •  Collectd •  Zabbix •  Puppet •  Ansible •  Cobbler •  LinuxCOE •  LDAP認証* •  i-doit CMDB* ネットワークプラグイン •  Dhcp •  Dns •  Tftp •  Wake On Lan •  IPMI管理* •  IPプール管理* •  ボンディング* •  noVNC •  SSH-term HAサポートプラグイン •  ⾃自動フェイルオーバー •  OpenQRM HA構成 •  LCMC Etc. *はエンタープライズ版提供機能 18
  • openQRMの管理単位 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved リソース システムが稼働する⼊入れ物(物理サーバ/仮想マシ ン) カーネル openQRMが集中管理するためのブートロー ダ(PXELinux) ルート オペレーティング・システムのrootファ イル+サービスプログラム群 サーバ ストレージ サービスレベル サーバへのリソースの割当等構成 情報 イメージ ファイルシステム、デプロイメント情報 19 インストール 初期設定 アプリ配備 監視設定 HA設定 構成管理課⾦金金管理 リソース管理
  • 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved サーバテンプレート機能 イメージシェルフ 既存サーバ LAMPイメージ DBイメージWindowsServer Etc. 登録 NFS/ftp/http/local オンプレミス (物理・仮想マシン) VMware/xen等 (仮想マシン) パブリッククラウドサービス (仮想マシン) 20
  • LinuxCOE+Ansible/Puppetで全⾃自動セットアップ l  LinuxCOE:HPが開発しているOSS l  Cobblerと同等のOS⾃自動インストールシステム l  openQRMサーバと同居 l  openQRMとの連携の仕組み 1.  サーバ作成時に、LinunxCOE⾃自動インストールを選択 2.  初回サーバ起動時に、ネットワークブートし、LinuxCOEからtftpブー トされる 3.  OSインストール完了後、openQRMサーバから再起動 4.  起動時にPuppet/Ansibleのマニフェスト/playbookが実⾏行行される 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 21
  • HA機能 l  N+1フェイルオーバー l  LCMCインテグレーション l  Linux Cluster Management Consoleを使⽤用し、簡単にLinux- HA環境を構築 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved openQRM N+1 フェイルオーバー OpenQRM リソースプール 従来のHA構成 本番系 待機系 22
  • マイグレーション機能 l  既存システムをopenQRM配下に追加 l  P2V/V2P(⾮非仮想化ó仮想化環境) l  V2V(仮想化環境Aó仮想化環境B) l  P2P(⾮非仮想化環境Aó⾮非仮想化環境B) l  ライブマイグレーション l  ハイパーバイザに依存、異種仮想化環境間は不可 l  KVM, Xen, OpenVZ, lxcをサポート 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 23
  • CloudZones(エンタープライズ版機能) l  WAN経由で複数のデータセンタにあるopenQRMク ラスタへのプロビジョニング機能を提供 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 24 CloudZones https/SOAP インターネット/ WAN openQRMクラスタ #1 openQRMクラスタ #2
  • 運⽤用管理機能 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 25 Zabbix監視システム連携 i-doit構成管理システム 連携(エンタープライズ版) Nagios監視システム連携
  • セルフサービスポータル機能 l  ユーザ管理 l  グループ/ユーザ毎の使⽤用プロダクト設定 l  課⾦金金管理 l  セルフ登録/管理者登録 l  プロダクト管理 l  各リソースの課⾦金金単位設定 l  IPプーリング/VLAN設定(エンタープライズ版) l  セルフサービスポータル l  GUIリソース管理 l  課⾦金金情報提供 l  管理API l  SOAP l  JSON-RPC(予定) 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved システム担当者 クラウド管理者 ユーザー/グループ管理 リソースプール割当 サービスレベル管理 課⾦金金管理 プロビジョニング要求 リソース作成 構成設定/変更 サービス起動/停⽌止 リソースプール 構成DB OpenQRM 26
  • ポータル画⾯面 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 27
  • API 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 28
  • 利⽤用例:BCP/DRサービス l  既存サーバ群のシステムイメージを複製 l  システムイメージをバックアップ l  必要に応じてシステムイメージを複製、必要な環境で起動 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved OpenQRM サーバ MySQL イメージ・ストレージ 既存サーバ群 Windows Linux Vmware etc. サーバ イメー ジ クラウド ストレージ サービス パブリック・クラウドサービ ス プライベート・クラウ ド バックアップセンター 複 製 29
  • 利⽤用例:バッチ処理 as a Service l  Hadoop上の基幹バッチ処理フレームワークAsakusaを PaaSとして提供する l  システム構成 l  Hadoopクラスタリソースは、物理環境、仮想化環境、パブリック クラウドを選択可能 l  提供機能 l  オンデマンド・バッチ処理 l  ジョブ管理 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved Asakusa サーバ MySQL OpenQRM サーバ MySQL Asakusa サーバ MySQL Asakusa サーバ MySQL Hadoop クラスタ Hadoop クラスタ Hadoop クラスタ Hadoopクラスタ・リソースプール (物理サーバ群 & パブリッククラ ウド) バッチ処理毎に割当 ユーザ毎に割当 JobScheduler 30
  • 稼働環境 (1) 物理HW OpenQRMが動作するのに、必要なプロセッサ /メモリ/ディスク • Intel/AMD x86 2core、1.8Ghz • メモリ 1GB • 20GB以上のフリーディスクスペース (2) OS OpenQRMが動作する、オペレーティングシス テムとバージョン • Ubuntu / Debian Lucid以降 (推奨) • CentOS / Redhat EL 5.5以降 (3) ミドルウェア OpenQRMが動作するのに、サポートされるソフ トウェアとバージョン • Apache 2.2以降 • MySQL 5.1以降 • PHP 5.3以降 • 他、プラグインによって多数あるが、インス トール時に⾃自動的に選択される (4) ネットワーク OpenQRMが動作するのに、必要なネットワーク 環境 • 管理/ストレージ⽤用と公開⽤用の別々の1Gbps ネットワークを推奨 • 被管理サーバの管理/ストレージ⽤用ネットワ ークは、dhcp設定が必要(但し、OpenQRM 側で固定IPアドレス割当は可能) • 被管理サーバは、dhcp/PXEブートするために 管理サーバと同⼀一のarpブロードキャストドメ インである事 • NTPが稼働している事(推奨) 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 31
  • リソース http://groups.google.com/group/openqrm-ja openqrm-ja@googlegroups.com 開発元:http://www.openqrm-enterprise.com/ OSSホーム:http://www.openqrm.com プロジェクト:https://sourceforge.net/projects/openqrm/ ⽇日本語資料 l  製品紹介プレゼンテーション l  クイックスタートガイド l  プラグインガイド http://www.ossl.co.jp 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved 32
  • OSSラボ株式会社  概要 l  英 語 社 名:OSS Laboratories Inc. l  資  本  ⾦金金:2500千円 l  代表取締役:船井  覚 l  顧問:松⽥田  俊介(元  松下電器産業株式会社  技 監) l  主要取引先 伊藤忠テクノソリューションズ株式会社、TIS株式会社、ネット ワンシステムズ株式会社、株式会社セキュアスカイ・テクノロジー、 S&Jコンサルティング株式会社、株式会社トライコーダ 、ヒューベ ルサービス株式会社、等 140622 Copyright 2014(C) OSS Laboratories Inc. All Rights Reserved OSSラボ コミュニティ サービス 設計/構築 運⽤用/保守 ライセンス ソースコード 保証 教育 2次サポート OSSラボ  サービス 調査、検証、提案作成、コミュニティ代⾏行行 コンサルテーション、教育、設計、開発、保守 33