Successfully reported this slideshow.
Your SlideShare is downloading. ×

Hadoop on eucalyptus_20110221

Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Ad
Upcoming SlideShare
RDOとPackstackのご紹介
RDOとPackstackのご紹介
Loading in …3
×

Check these out next

1 of 11 Ad

More Related Content

Slideshows for you (20)

Viewers also liked (20)

Advertisement

Similar to Hadoop on eucalyptus_20110221 (20)

More from Etsuji Nakai (17)

Advertisement

Recently uploaded (20)

Hadoop on eucalyptus_20110221

  1. 1. オープンクラウド・キャンパス Eucalyptusで Hadoopクラウドサービスを実現! 中井悦司 Twitter @enakai00
  2. 2. EucalyptusでHadoopクラウドサービスを実現! 自己紹介 中井悦司 (Etsuji Nakai) – Twitter: @enakai00 (ぜろぜろ) 所属 IBM Linux/OSS & Cloud Support Center 日々の仕事 2011/05/20 – Linux/OSS Evangelist 好評発売中 発売予定 – Linux/OSS の技術相談 – Linux/OSS 技術情報サイトの中の人 – IBM 社内のクラウド・インフラの構築 昔取った杵柄 – 素粒子論(ゲージ場とかストリング理論) – 予備校講師(物理の先生) – インフラ担当 SE 2 Open Cloud Campus
  3. 3. EucalyptusでHadoopクラウドサービスを実現! Eucalyptus とは? 概要 – IaaS を構築するためのクラウドソフトウェア – Amazon EC2/S3 をモデルとしており、API の互換性を目指している 名前の由来 – “Elastic Utility Computing Architecture for Linking Your Programs To Useful Systems” の 頭文字を取って付けられた。 – 日本語では、「あなたのプログラムと便利なシステムをリンクするための弾力性を持つユーティ リティ・コンピューティングのアーキテクチャ」 開発元 – UCSB(カリフォルニア大学サンタバーバラ校)にて 2007 年秋から開発開始 – 2009 年 4 月に開発者達で Eucalyptus Systems, Inc. を設立し、ビジネス化。現在は Eucalyptus Systems, Inc. で開発・サポートを継続 提供形態 – オープンソースで公開されている Community Edition と有償の Enterprise Editionが提供さ れている 3 Open Cloud Campus
  4. 4. EucalyptusでHadoopクラウドサービスを実現! Eucalyptus のアーキテクチャー Community Edition では、ハイパーバイザは Xen もしくは KVM が利用可能 4 Open Cloud Campus
  5. 5. EucalyptusでHadoopクラウドサービスを実現! 典型的な構成例(シングルクラスタ) クライアント 管理ノード Cloud Controller パブリック・ネットワーク NAT Cluster Controller Warlus / Storage Controller プライベート・ネットワーク ・・・ Node Controller Node Controller Node Controller コンピューティングノード 5 Open Cloud Campus
  6. 6. EucalyptusでHadoopクラウドサービスを実現! 本日のネタは。。。 VM インスタンスで構成した Hadoop クラスタ 導入するソフトウェア・パッケージ、 Hadoop管理ノード 使用する構成ファイルは全て同じ (ホスト名で役割を認識) JobTrackerデーモン NameNodeデーモン SecondaryNameNodeデーモン 計算ノード 計算ノード Hadoop 用のマシンイメージ から、好きな数だけインスタンス TaskTrackerデーモン TaskTrackerデーモン DataNodeデーモン DataNodeデーモン を起動して、Hadoop クラスタを 自動構成しちゃうよ! ・・・ Hadoop 用マシンイメージ HDFS (分散ファイルシステム) Eucalyptus で作ったプライベート・クラウド 6 Open Cloud Campus
  7. 7. EucalyptusでHadoopクラウドサービスを実現! 本日のデモ環境の作り方はこちらに掲載しています。 Eucalyptus 環境の構築方法 Eucalyptus のクラウド上に を解説しています。 Hadoop クラスタを構築! 2010年8月発売 2011年2月発売 7 Open Cloud Campus
  8. 8. EucalyptusでHadoopクラウドサービスを実現! デモ画面を YouTube で公開しています。 http://bit.ly/e33AC8 8 Open Cloud Campus
  9. 9. EucalyptusでHadoopクラウドサービスを実現! 自動構成スクリプトの処理内容 Hadoop 管理ノードから Hadoop 計算ノードに対して以下の処理を実施 – ホスト名の設定と /etc/hosts の配布 – エフェメラル・ディスクのフォーマットとマウント(HDFS 領域として使用) VM インスタンスにアサインされる仮想ディスク ルートファイルシステム エフェメラル・ディスク (未使用領域) スワップ領域 ※ Hypervisor に KVM を使用した場合の構成 9 Open Cloud Campus
  10. 10. EucalyptusでHadoopクラウドサービスを実現! デモンストレーション OSC の会場に 見に来てね! 10 Open Cloud Campus
  11. 11. オープンクラウド・キャンパス みなさんもぜひ “Hadoop on Eucalyptus” で遊んでみてください! 中井悦司 Twitter @enakai00

×