JAWSUG 東京 2013/12/13 ソフトウェアベンダーが
AWSを活用して
急にSaaSをはじめた話

1. ソフトウェアベンダーが
AWSを活用して
急にSaaSをはじめた話
小椋 一宏／Kazuhiro Ogura
CTO of HDE, Inc.
@goura
fb.me/rgoura

4. なぜSaaSを
はじめたのか

5. はじめたかったから

6. 3.11以降、企業で変化が起きた

8. 3.11以降、HDEでも変化が起きた

9. HDEが提供するセキュリティサービス

12. HDEメールサービスとは

13. メールアーカイブツール市場シェア
※株式会社富士キメラ総研「富士マーケティング・レポート・ＢＴ"クラウド型コラボレーション系サービス及び周辺ビジネス市場動向"」(2013)

14. 約
550社
40万ユーザー

15. 処理通数：約3.0億通／月
保管通数：約1.0億通／月

16. 急激にデータ量が増加

17. アーカイブサービスについて

18. アーカイブ主要コンポーネント

19. ストレージについて

20. メインストレージには
何を使うか？

21. 要件
・無限に増加するデータの安全な保管
・現実的なパフォーマンスで検索可能にする
（検索インデックスの作成）
・目標稼働率 99.99%

22. S3の採用
•
•
•
•
•
•
オブジェクト数上限：なし
ストレージ総容量制限：なし
オブジェクト容量制限: 5TBまで
可用性: 99.99%
三つ以上のデータセンターに分散
GBあたり単価: $0.10/GB

23. 使いたかったから

24. 無限に増加するデータを保存する

25. S3の課題： I/O性能
HTTPベースのAPI：単体でのアクセスは遅い

26. 課題解決： I/O性能

27. S３のパフォーマンス
出典： Donald Kossmann, Tim Kraska, Simon Loesing.
An Evaluation of Alternative Architectures for Transaction Processing in the Cloud, 2010.

28. 書き込み→並列化

29. SMTPサーバーの並列化

30. 課題解決： I/O性能

31. 読み出しの高速化

32. 課題解決： I/O性能

33. S3でメインストレージを構築

34. 検索インデックスについて

35. アーカイブサービス画面

36. 全文検索エンジン
ゼロから開発

37. 作りたかったから

38. 検索インデックス作成：SQSで分散
SQSでジョブをワーカーに分配

39. 何のグラフ？

40. 昼夜の流量差に応じた
スポットインスタンスの起動
台数半分 !
価格1/4 !

41. めでたしめでたし
のようだが……

42. 克服できなかった弱点

43. S3の課金体系
PUTはGETの
約10倍

44. インデックス処理にかかる金額
• 当社の検索方式はN-gram風
• 全文検索インデックス処理では、メール1通につき
3000∼5000キーの更新が発生する
!
• そのままS3に書き込んでしまうと、、

45. S3だとパケ死する

46. しょうがないので
MongoDB

47. EBS+インスタンス構成でスタート

48. …増えつづけるDBサーバーに苦戦！

49. S3を使えなかった理由は
更新・書き込みが多いから
!
ならば
!
更新が終わったら
S3に移せばいいかも

50. そうだ
ついでに圧縮して
料金を節約しよう

51. 更新が無くなったインデックスを
EMRでS3に移動

52. EMR

53. 使いたかったから

54. 工夫：S3上のZIP形式を直接読む
•
•
•
Range付きGETでCentral Directoryを読み
各ファイルのオフセットを取得してまた
Range付GET
1000個のキーを書き込むときなど、PUTリ
クエスト課金を節約できる
http://en.wikipedia.org/wiki/File:ZIP-64_Internal_Layout.svg

56. ここまでのまとめ
• S3 + SQS でたいていのことはできる
• 書き込み→並列化
• 読み込み→キャッシュで弱点克服
• 細かいデータをたくさん書く用途は、
従来型のシステムとのハイブリッド型
も選択肢の一つ

57. Glacier登場
2012/8 Glacierの発表
!
• ストレージコストはS3のおよそ1/8
• 100TB貯めても12万円/月
• 読み出しにはお金がかかる→バックアップ用
• 削除にはお金がかからない

58. 使いたかったので
使いどころを必死で考えた

59. Glacierの活用

60. ここまでのまとめ
• Glacierは、取り出さない目算が高いデー
タを格納するのに有効
• AWSを基盤にすることで、AWSの競争力
を武器にできる

61. 話は以上です
ありがとうございました
さいごに

62. ジョブシェアで人材募集中です！
https://job-share.net/jobs/3084

63. ありがとうございました！
小椋 一宏／Kazuhiro Ogura
CTO of HDE, Inc.
twitter.com/goura
fb.me/rgoura