分散KVSをサービス化してみた ~Okuyama(KVS)もFusion-IO(ioDrive)もあるんだよ~

3,420 views

Published on

Published in: Technology
0 Comments
2 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total views
3,420
On SlideShare
0
From Embeds
0
Number of Embeds
60
Actions
Shares
0
Downloads
26
Comments
0
Likes
2
Embeds 0
No embeds

No notes for slide

分散KVSをサービス化してみた ~Okuyama(KVS)もFusion-IO(ioDrive)もあるんだよ~

  1. 1. Agenda プ• I. ソーシャルアプリとインフラ• II 分散KVSのサービス化 II. 分散KVSのサ ビス化 – なぜサービス化する必要が? – at+link アプリプラ トフ li k アプリプラットフォーム ム – Okuyama & ioDrive – プロジェクトの方向性• III 管理画面 III. 管理画面• Q&A, Discussion
  2. 2. About me About me• @zembutsu 前佛雅 前佛雅人 – 株式会社リンク ディベロッパーサポート部 シ ア ンジ ア デ ベ パ サポ ト部 シニアエンジニア at+link 専用サーバサービスの運用サポート http://www.at‐link.ad.jp/ アプリプラットフォーム – 活動:クラウド界隈に出没 • Open Cloud Campus, JEUG(Eucalyptus ユーザ会) • JAWS‐UG、OpenStack ユーザ会、CloudStackユーザ会
  3. 3. About me About me• 執筆 執筆: • G‐CLOUD Magazine                      G‐CLOUD Magazine 2011 Summer 2010年8月6日 発売 2011年6月29日 発売 1章~3章 AWS入門記事 5章 RightScale
  4. 4. ソ シャルアプリとインフラ環境ソーシャルアプリとインフラ環境I. APPLICATION FOR SNS
  5. 5. SNS• Social Networking Service
  6. 6. SNS membership SNS membership 3000 2500 2000人数(単位:万人) 1500 mixi i i mobage GREE 1000 facebook 500 0
  7. 7. ソーシャルアプリ 連携 提供される ビ• SNS と連携して提供されるサービス 会員情報 、外部 サ を連携 – SNSの会員情報と、外部のサービスを連携 – SNS プラットフォームがオープン化の流れ (2010)• 会員数2 000万人以上 会員数2,000万人以上 – ソーシャルグラフ・口コミによる利用者増加
  8. 8. ソーシャルアプリ向けサーバ構成• 一般的なウェブサービスとは違う点 般的なウ ブ ビ 違う点 – システムの規模が見積もりにくい シ テ 規模 見積もり く – 状況に応じて、サーバリソースの増減が必要• SNS独特の課題が発生
  9. 9. 考慮すべき点 SNS PLATFORM User API profile ソーシャルアプリ 情報 サービス用サーバ 5秒ル ル/ジョイン停止• 5秒ルール/ジョイン停止• キャッシュサーバの利用による高速応答
  10. 10. 分散KVSのサ ビス化分散KVSのサービス化II. APPLI‐PLATFORM WITH KVS
  11. 11. ソーシャルアプリの課題• 高速なウ ブ応答の必要性 高速なウェブ応答の必要性 – SNS認証情報のキャッシュ – 負荷分散 • ウェブサーバの負荷分散 • キャッシュサーバの分散 • データベースのsharding – ディスク I/O の最適化• オンデマンドな利用形態 オンデ ンドな利用形態 – 必要な時に必要なだけ(クラウド的な…)
  12. 12. 従来のホスティング• サーバ追加が大変 バ追加が大変 – 納期確認・調整 納期確認 調整• サーバを減らすのも大変• 初期 初期コスト ト• これらの問題を解決する新しい枠組み 「 at+link アプリプラ トフォ ム 」 t li k アプリプラットフォーム 2010年11月スタート
  13. 13. Our Solution• サ バをオンデマンドで利用可能に サーバをオンデマンドで利用可能に – 初期費用無償 – 管理画面でオーダー・90分後に設置 ダ• ディスク I/O 問題を高速デバイスで解決 – Fusion‐IO社の ioDrive – 通常のサーバの約 3~4 倍の性能• キャッシュサーバをオンデマンドで提供 – 分散 KVS の Okuyama KVS の – 神戸デジタルラボの岩瀬氏(@okuyamaoo)開発 • オープンソース
  14. 14. at+link アプリプラットフォーム• サービス提供の枠組み ビ 提供 枠組 KVSUser
  15. 15. feature• 初期費用 円 初期費用0円 – トラフィック・データ転送量課金無し(1Gbps共用) – ロードバランサ・ファイアウォール標準• ioDrive(Fusion IO)が利用可能 ioDrive(Fusion‐IO)が利用可能• サーバ追加90分以内• KVS(okuyama) KVS( k )• HTTP 応答時間監視• Munin によるリソース監視
  16. 16. FusionIO Disk I/O Disk I/O• S Sequential read ti l d – ioDrive が圧倒的に速い 約500MB/sec • SAS の 3 ~ 4 倍 SAS の 3 ~ 4 倍 • SSD の 2 倍• Sequential write Sequential write – SAS RAID と同程度の書き込み性能• Random read/write Random read/write – 並行処理が増えても、スループットが安定• MySQL – トランザクション・同時接続数が増えても、 安定したスループット
  17. 17. ioDrive ‐ Sequential Read read 平均 [MB/sec]600.00 500.00 400.00 300.00 200.00 100.00  0.00  IDE (5,400rpm) SATA (7,200rpm) SAS (15,000rpm) SAS  SSD (X25‐E Extreme  ioDrive ( , p ) RAID1(15,000rpm) ) SATA SSD)  – hdparm –t <device> で測定、30回平均
  18. 18. ioDrive ‐ Sequential write write [MB/sec]140012001000800 IDE (5,400rpm) IDE (5 400rpm) SATA (7,200rpm) SAS (15,000rpm)600 SAS RAID1 ioDrive400200 0 4k 16k 64k 256k 1024k 4096k 16384k 65536k • “dd” でファイル作成 時間を計測
  19. 19. ioDrive ‐ Randam read/write dbench (NFS) througput 1400 1200 1000 800 SSDMB/Sec ioDrive 600 SAS(RAID1) SATA SA A 400 200 0 1 16 32 64 128 • dbench (http://dbench.samba.org/) 
  20. 20. ioDrive ‐ Sysbench OLTP(MySQL) • Sysbench Transaction12000000100000008000000 other6000000 write read4000000 threads2000000 0
  21. 21. Okuyama on at+link on at+link• 分散 KVS okuyama はオープンソース プ• ソーシャルアプリ向けにカスタマイズ ソ シャルアプリ向けにカスタマイズ – サービスの継続性を重視 – 冗長化 ( S) (LVS) – 内部でのデータ保全性• 専用サーバでありながら、PaaS 的なサービス – 利用者のインフラ管理負担を軽減
  22. 22. 分散 KVS サービス化の利点 KVS サービス化の利点• On demand use d d• Memcached protocol compatible p p• Free ( until 1GB )• Maintenace free ← とても重要 free ← とても重要 – ユーザサイド による冗長化のため サ ビスが停止しない • LVS による冗長化のため、サービスが停止しない – 提供者サイド • ノードが故障しても、データ保全 ドが故障し も デ タ保全 • ノードメンテナンスが無停止で可能
  23. 23. Okuyama sOkuyama’s technology http://www.kdl.co.jp/service/okuyama/
  24. 24. Pricing• キ キャッシュサーバ機能 バ機能
  25. 25. Team• 体制
  26. 26. Projection and milestones Projection and milestones• Cache Server << RELEASED – memcached compatible p• Image cache server << 2011 –S Same as CDN ( http ) CDN ( h )• Log Storage << 2011 g g – Permanentaly log storage server• Additional function (?) Additional function (?) – Log Analytics ( on the table )
  27. 27. Status and timeline Status and timeline• アプリプラットフォーム&分散KVS プ プ 分散 2010.11 2011.03 2011.08    10 ?2010 2011 2012 Service Released Log Storage (KVS) Analytics ( Hadoop relation? ) ( Hadoop relation? ) Image Cache (KVS)  Okuyama Cache Function (KVS)
  28. 28. サービスのまとめ• at+link アプリプラットフォーム プ プ – ソーシャルアプリ特化型インフラ基盤 ソ シャルア リ特化型イン ラ基盤 – 初期費用無償・オンデマンドでサーバ利用• i D i (F i IO)でディスクI/Oの問題を解決 ioDrive(FusionIO)でディスクI/Oの問題を解決• 分散KVSとしてokuyamaを採用 y – memcached 互換のキャッシュ機能を提供 – 画像キャッシュ・ログ保存機能を開発中「Fusion‐IOもKVSもあるんだよ」
  29. 29. at link アプリプラットフォ ム専用コントロ ルパネルat+link アプリプラットフォーム専用コントロールパネルIII. SERVICE CONTROL PANEL
  30. 30. Frontpage
  31. 31. Server detailsServer details
  32. 32. Contact formContact form
  33. 33. Server orderServer order
  34. 34. Server orderServer order
  35. 35. KVS(cache) orderKVS(cache) order
  36. 36. 質疑応答Q&A, DISCUSSION
  37. 37. Thank you for listening! Thank you for listening!• ご静聴あ が うござ ま た ご静聴ありがとうございました。• Contacts – at+link 専用サーバ・サービス アプリプラットフォーム 専用サ バ サ ビス アプリプラットフォ ム http://www.at‐link.ad.jp/appli_platform/ – 株式会社リンク 前佛 雅人 (Masahito Zembutsu) – T itt @ Twitter: @zembutsu b t – E‐mail: zembutsu@link.co.jp – Tel: 03‐5785‐0555

×