More Related Content

Slideshows for you(20)

Similar to Cloud impact on IT industry (in Japanese)(20)

Recently uploaded(20)

Cloud impact on IT industry (in Japanese)

  1. 2011-12-16 クラウドの衝撃 ★ キー・バリュー型データ ストア:Google App Engine ★ 激変するIT市場 1
  2. 自己紹介 島根大学 総合理工学部 数理・情報システム学科 教授 田中章司郎 http://www.linkedin.com/in/shojirotanaka http://www.shojiro-tanaka.net - 情報処理学会情報規格調査会 SC32/WG4 SQL/MM委員 - 元情報処理学会中国支部長 - 元情報処理学会代表会員 2
  3. Sober researcher … (1/2) 3
  4. Sober researcher … (2/2) 4
  5. はじめに少しお断り … • 非公開技術情報が多く,製品市場 も激しく変化しているため,この 講演の内容は推測を含みます • スライドの多くはインターネット で集めました。引用先の 原著作権を尊重ください 5
  6. Agenda (1/2) ★キー・バリュー型データストア: Google App Engine • ホワイトハウスOpen for Questions: 700 queries/sec. • 圧倒的なコスト差 • どこまでもスケールアウトさせるテクノロジ • ACIDからBASEへ • アンドロイド端末組込DBとの連携 6
  7. Agenda (2/2) ★ 激変するIT市場 • コンテナ利用データセンターに見える Googleの戦略 • KVSが日米の業界で騒がれ始めた時は… • Google KVSの基礎となる論文は2004年! • 日本のテクニカルライタの目は比較的確か • 旧電電ファミリー,他社の動向 • KVS再考 • Googleの文化と今後の技術展開 7
  8. 第1部 ★キー・バリュー型 データストア: Google App Engine 8
  9. Open for Questions, 3/24/2009 9
  10. Open for Questions, 3/24/2009 • テレビと連動した初めての試みでアクセス予測不可能 • ピークは1秒当たり700問合せ • 全投票数は180(360?)万件,問合せ10万件 • ホワイトハウス側の技術者がオープンソースの Google Moderatorをベースにチューニング • (App Engineで運用中だった45,000のアプリに 影響なし) • ホワイトハウスの開発期間と支払った金額は不明 [推定1ヶ月,数百万円程度か?] http://itpro.nikkeibp.co.jp/article/COLUMN/20090702/333140/ 10
  11. 2ケタ安?! • GClue社 http://www.gclue.com/ 月3,000万PV → 月額3万円程度(US $360) • X社 400万件,約11GBのデータをApp Engineに移行 → 月額US $4 (日経BP,DVD,佐藤一憲 (ペンネーム吉川和巳 )氏) 11
  12. 無償分を超えると有償に (日経BP,DVD,佐藤一憲 氏) 12
  13. いまITで何が起きているか? http://itpro.nikkeibp.co.jp/article/COLUMN/20101101/353684/ 13
  14. いまITで何が起きているか? http://itpro.nikkeibp.co.jp/article/COLUMN/20101101/353684/ KVSによる分散巨大 Super Big Data! データ管理 14
  15. 基本技術:ハッシュの応用 (日経BP,「クラウドマガジン Vol.1」,p.57 15
  16. RDBはスケールしない? (日経BP,DVD,佐藤一憲,2010) 16
  17. どこまでもスケールアウト 技術 App Engine Stack Bigtable 17 (日経BP,DVD,佐藤一憲,2010)
  18. Google App Engineとは (日経BP,DVD,佐藤一憲,2010) 18
  19. Google App EngineのAPI 19 (日経BP,DVD,佐藤一憲,2010)
  20. App Server (日経BP,DVD,佐藤一憲,2010) 20
  21. App Serverのスケールアウト (日経BP,DVD,佐藤一憲,2010) 21
  22. どこまでもスケールアウト 技術 App Engine Stack Bigtable (日経BP,DVD,佐藤一憲,2010) 22
  23. 分散KVS (Bigtable) (日経BP,DVD,佐藤一憲,2010) 23
  24. 分散KVS (Bigtable) (日経BP,DVD,佐藤一憲,2010) 24
  25. ACID Atomicity, Consistency, Isolation, Durability 処理1:母親がA君の口座へ振り込む 処理2:A君が口座からお金を引き出す 1:Select ント ラ 2:Select ン ザ ク シ DB ョ 3:Update&Commit 4:Update&Commit 25
  26. ACID特性 処理1:母親がA君の口座へ振り込む 処理2:A君が口座からお金を引き出す 1:Select 2:Lock 待機 5:Select 3:Update DB 4:Commit&UnLock 6:Lock 7:Update 8:Commit&UnLock 26
  27. 楽観的なロック http://itpro.nikkeibp.co.jp/article/COLUMN/20101101/353684/ 27
  28. ACIDからBASEへ (日経BP,DVD,佐藤一憲,2010) 28
  29. Bigtableとは (日経BP,DVD,佐藤一憲,2010) 29
  30. Bigtable (日経BP,DVD,佐藤一憲,2010) 30
  31. Bigtable (日経BP,DVD,佐藤一憲,2010) 31
  32. どこまでもスケールアウト 技術 App Engine Stack Bigtable (日経BP,DVD,佐藤一憲,2010) 32
  33. Datastoreサービスとは (日経BP,DVD,佐藤一憲,2010) 33
  34. Datastoreサービスとは (日経BP,DVD,佐藤一憲,2010) 34
  35. Datastoreクエリ (日経BP,DVD,佐藤一憲,2010) 35
  36. いまITで何が起きているか? http://itpro.nikkeibp.co.jp/article/COLUMN/20101101/353684/ KVSによる分散巨大 Super Big Data! データ管理 36
  37. Datastoreクエリ (日経BP,DVD,佐藤一憲,2010) 37
  38. Datastoreクエリ (日経BP,DVD,佐藤一憲,2010) 38
  39. 先にJoinした表設計にする (日経BP,DVD,佐藤一憲,2010) 39
  40. どこまでもスケールアウト 技術 App Engine Stack Bigtable (日経BP,DVD,佐藤一憲,2010) 40
  41. 端末DBとの連携 (GET/POST) 41 http://itpro.nikkeibp.co.jp/article/COLUMN/20111130/375391/
  42. ! (第2部へ) 42
  43. 第2部 ★激変するIT市場 43
  44. 米国・世界の情報収集 44
  45. コンテナ型データセンター記事 eWeek (08/03/2007) Preimesberger, Chris Researchers at IBM, Hewlett-Packard, Sun Microsystems, and undoubtedly other companies are exploring technologies that might lead to data centers that require no cooling equipment, which would lower power usage dramatically. EE Times (02/13/2009) Merritt, Rick University of California, Berkeley professor Randy Katz says future computers need to be designed to meet the energy efficiency needs of data centers, and the power grid needs to adapt and become more like the Internet. 45
  46. コンテナ型データセンター実際 46 http://tsugawa.tv/2009/04/10/google_unveil_datacenters/
  47. KVSが騒がれ始める(2008年~) http://hadoop.apache.org/ 47
  48. KVSが騒がれ始める(2008年~) http://www.dbms2.com/2008/09/04/mike-stonebraker-mapreduce/ 48
  49. KVSが騒がれ始める(2008年~) http://itpro.nikkeibp.co.jp/article/OPINION/20090226/325527/?ST=cloud&P=1 49
  50. KVSが騒がれ始める(2008年~) (情報処理 Vol. 50, No. 11, 2009) 50
  51. KVSが騒がれ始める(2008年~) 51 http://itpro.nikkeibp.co.jp/article/Watcher/20100427/347564/
  52. Google論文:実は… 2004年 52
  53. Google KVS 実装プロジェクト http://nutch.apache.org/ 53
  54. KVSが騒がれ始める(2008年~) http://hadoop.apache.org/ 54
  55. Microsoft – Windows Azure http://codezine.jp/article/detail/3970 55
  56. Microsoft – SQL Azure DB http://msdn.microsoft.com/ja-jp/magazine/ee321567.aspx 56
  57. SQL Azure:スケールアウトに限界 http://msdn.microsoft.com/ja-jp/windowsazure/gg465295 (1GBytes, 10GBytes容量制限有り) http://www.atmarkit.co.jp/fdotnet/dnfuture/intvwdavidchappell_01/intvwdavidchappell_01_03.html 57
  58. Azure DBとAzure Table Storage http://itpro.nikkeibp.co.jp/article/COLUMN/20101101/353684/ 58
  59. ついにGoogle Cloud SQL! Google、App EngineにSQLデータベース追加 2011/10/07 (鈴木 英子=ニューズフロント) 米Googleは米国時間2011年10月6日、Webアプリケー ション開発/実行環境「Google App Engine」にクラウ ドベースのリレーショナルデータベース管理システム 「Google Cloud SQL」を追加すると発表した。当面、 限定的なプレビュー版として提供する。・・・ http://itpro.nikkeibp.co.jp/article/NEWS/20111007/370326/?ST=print 59
  60. KVSクラウドビジネス選択肢 • Google App Engine For Business • Amazon SimpleDB • [salesforce.com] • 上記の組合せ • Microsoft Azure • IBM WebSphere eXtreme Scale (ホスティング/自社センタ) • 自社開発/オープンソース (Cassandra) 60
  61. 各社の対応(三菱電機) http://www.itmedia.co.jp/enterprise/articles/1007/21/news037.html 61
  62. 各社の対応(沖電気) http://www.oki.com/jp/press/2010/11/z10090.html 62
  63. 各社の対応(NEC) http://www.nec.co.jp/outsourcing/riacube-v/index.html ※ (2011年7月6日) http://www.itmedia.co.jp/enterprise/articles/1107/11/news021.html 63
  64. 各社の対応(日立製作所) http://cloud.watch.impress.co.jp/epw/docs/news/20100527_369810.html 64
  65. 各社の対応(富士通) http://jp.fujitsu.com/solutions/cloud/concept/global.html 65
  66. 各社の対応(NTTデータ) http://cloud.watch.impress.co.jp/docs/news/20101122_408777.html 66
  67. 各社の対応(NTTデータ) http://www.asp-navi.jp/news/122010/nttaig.html 67
  68. 各社の対応(IIJ:KVS対応予定) http://www.atmarkit.co.jp/news/201109/05/mogok.html 68
  69. 各社の対応(NTT docomo) 69 http://www.atmarkit.co.jp/news/201109/05/mogok.html
  70. 各社の対応(IBM?) http://www-935.ibm.com/services/jp/igs/cloud-development/ http://www-06.ibm.com/software/jp/websphere/apptransaction/virtualization.html 70
  71. 各社の対応(IBM) 71 http://www.ibm.com/developerworks/jp/websphere/category/wxd/wxs.html
  72. 各社の対応(IBM!) http://www-06.ibm.com/systems/jp/z/hardware/z196/ 72
  73. Revisit KVS http://thinkit.co.jp/story/2011/03/18/2053?page=0,0 73
  74. Revisit KVS http://thinkit.co.jp/story/2011/03/18/2053?page=0,0 74
  75. Revisit KVS http://thinkit.co.jp/story/2011/03/18/2053?page=0,0 75
  76. 各社の対応(Oracle) http://itpro.nikkeibp.co.jp/article/NEWS/20110523/360550/ 76
  77. どこまでもスケールアウト 技術 App Engine Stack Bigtable (日経BP,DVD,佐藤一憲,2010) 77
  78. Google’s quirky culture, TGIF http://www.zdnet.com/videos/events/obamas-google-moderator-stats/285246 78
  79. Google’s quirky culture… Larry Page(創業者,1998年)は,自分のいたスタン フォード大学の計算機科学の教授を5人を相談役 として雇う。 その教授のネットワークで 「これは天才だ」という学生を見つける。その全ての 学生にFedExで,スタンフォード大学の教授の手紙 とファーストクラスの往復チケットを送る。 「是非あなたの研究について話して欲しい。 パロアルトに来て話してくれませんか?」 http://jp.blogs.com/2009/10/googlerecruiting.html Sergey Brin(創業者,1998年) Eric E. Schmidt(2001年) http://yokudeki.com/business/google_story/ 79
  80. Google’s 20% rule グーグルは社員のビジョンを重視し、社員は社内で 過ごす時間の20%を、自分が担当している業務以外 の分野に使うことが義務づけられている Workers are asked to spend 20% of their time on something that interests them, away from their main jobs. Googleは8割のパワーで「持続的イノベーション」を開 発し,2割のパワーで「破壊的イノベーション」を創造 している。 http://blogs.itmedia.co.jp/saito/2009/12/google20-9d35.html 80
  81. Google’s TGIF TGIF(Thank God! It’s Friday! 今日で今週も終わりだ! 花の金曜日だ!の意)ミーティングは物理的なインフラ である。マウンテンビュー本社敷地内の1,000名程度収容 のホールで行われる。いわゆるフルタイムで雇用される 従業員は全員参加できる。 創業以来続けられているこのミーティングの特徴は「 一切タブーなし」というのが基本ルールだそうで,情報 共有の原点といわれている。お楽しみ半分,業務目的半 分の会である。 http://itpro.nikkeibp.co.jp/article/Watcher/20070125/259618/ 81