Lampで作るソーシャルアプリの負荷対策～アプリとインフラの調和のテクニック～

■KLab株式会社会社紹介 • 2000年8月設立、今年10周年を迎えます • 大規模/高負荷モバイルサイトの構築/運用にて負荷対策のノウハウを蓄積してきました • ソーシャルアプリ向けホスティングサービス「DSAS Hosting for Social」提供中！ http://www.klab.jp/dsas_host/index.html Copyright 2010 KLab Inc. All rights reserved. 2

■スピーカー紹介 KLab株式会社プロジェクトマネジメント部グループリーダー森本隼 (twitter @morimotoj) • 2006年 KLab株式会社入社 • 元々、自社メディア事業/SNS事業の開発リーダーをやっていました • 2009年秋よりソーシャルアプリ開発のプロジェクトマネージャーをしています • 海釣りを趣味としております • 大勢の人前で話すのが初めてなので緊張してます＞＜ Copyright 2010 KLab Inc. All rights reserved. 4

■本論に入る前に • 本発表は主にモバイルのソーシャルアプリを元にしています • PHPフレームワークはCakePHP/symfonyを利用しています • 両フレームワーク共に負荷対策のため、様々な拡張を加えて使っています • が、今回時間が取れなかったので、カスタマイズに興味のある方はセミナー後に個別にご相談ください（＾＾； • また、モバイルソーシャルアプリ向けのFlash合成についても色々経験してきました • こちらについてもセミナー後に個別にご相談ください（＾＾； Copyright 2010 KLab Inc. All rights reserved. 5

■今日話したいこと対象者 •これからソーシャルアプリの開発をしようとしている技術者の方 •ソーシャルアプリの仕様は理解したけど実際にどんなところに気を使う必要があるのか興味がある方 •ソーシャルアプリにおけるボトルネックを知りたい方内容第１章：なぜ高負荷対策が必要なのか？第２章：高負荷対応しやすいインフラとは？第３章：アプリケーションの高負荷対策とは？ Copyright 2010 KLab Inc. All rights reserved. 6

■リリース直後のソーシャルアプリ（恋してキャバ嬢）デイリーPV デイリーPV …1日のページ閲覧数の合計最大秒間PV 最大秒間PV …1秒間のページ閲覧数が一日で最も多いときのページ閲覧数デイリーPV 最大秒間PV 初日 566万 380 2日目 1288万 580 3日目 1311万 580 アプリがヒットした場合秒間3000PVを超えるアクセスも（経験談） Copyright 2010 KLab Inc. All rights reserved. 8

■モバイルソーシャルアプリ特有の5秒ルール • モバイルソーシャルアプリはHTTP通信が5秒を超えると強制的にエラーページが表示されてしまう • 5秒を超えるエラーが3分間に1000回を超えるとプラットフォーム側にてアプリに対して一時的なペナルティが課せられてしまう – プラットフォームにてアプリをメンテナンス状態に切り替えられてしまう – メンテナンス状態が解除されるまで、ユーザーはアプリを利用できない応答に5秒以上掛かる状態はアプリが落ちているのと同じ Copyright 2010 KLab Inc. All rights reserved. 11

■KLabの場合 KLabが長年ノウハウを蓄積してきた高負荷・大規模サイト構築用インフラ統合技術ＤＳＡＳ (Dynamic Server Assign System) • オープンソースベース • 単一故障点が存在しない高信頼構成 • 容易なメンテナンス・柔軟なスケーラビリティ • 充実した監視機構とモニタリング詳しくは http://www.klab.jp/dsas/ Copyright 2010 KLab Inc. All rights reserved. 15

■サーバースペック最近構築したソーシャルアプリ用インフラのスペック例 ■通常スペックサーバ（WEBサーバ,キャッシュサーバ等に利用） CPU：Xeon L3360 メモリー：2GBx4 HDD SATA：500GBx2 ■ハイスペックサーバ（主にDBサーバに利用） CPU：Xeon E5440 x2 メモリー：4GBx16 SAS HDD：146GB x8 Raid5 ※ボトルネックになりやすいDBのIO周りには、高価な機材を投ボトルネックになりやすいDBのIO周りには、高価な機材をになりやすいDB 入しています Copyright 2010 KLab Inc. All rights reserved. 17

■負荷の正体 WEB/DBサーバ共に一度に接続できる Connection数には上限があるロード WEB DB バランササーバサーバ ○の部分でHTTPリクエストが詰まると待ち行列が増えるこれが負荷の正体コンポーネント間の接続時間をできるだけ短くし、単位時間あたりのConnection数を増やす努力をする！ Copyright 2010 KLab Inc. All rights reserved. 23

■DBサーバとの接続時間を短くするために 1. サーバパラメータをチューニングする 2. アプリからは高速なSQLだけ実行する 3. 遅いSQLを検出し、対策する 4. SELECTクエリをスレーブDBに逃がす 5. SELECT結果をアプリケーションでキャッシュする 6. アプリから明示的にDB接続を切断する Copyright 2010 KLab Inc. All rights reserved. 26

■1. サーバパラメータをチューニングする DBサーバのメモリをMySQLに豊富に割り当てる MySQLのデータがメモリに乗ることでディスクI/O の頻度を減らすことが出来る • 今回のサーバではテーブルやインデックスのキャッシュ用に20GB割り当てています • グローバルバッファとスレッドバッファに注意 - グローバルバッファ・・・インスタンスで1個だけ確保される - スレッドバッファ・・・MySQLへの接続毎に確保される参考：DSAS開発者の部屋：5分でできる、MySQLのメモリ関係のチューニング！ http://dsas.blog.klab.org/archives/50860867.html Copyright 2010 KLab Inc. All rights reserved. 27

■2. アプリからは高速なSQLだけ実行する高速なSQLを実行するためのテーブル設計 1. レコード長を極力小さく • 不要なカラムをもたない • カラム長を極力小さく(intをやめてtinyintに等) 2. 不要になったデータは削除 • データ件数を減らして検索範囲を小さくする 3. 必要なインデックスのみ作成 • マルチカラムインデックスを活用 Copyright 2010 KLab Inc. All rights reserved. 28

■3. 遅いSQLを検出し、対策する slow_query_log • 実行時間が閾値を超えるSQLを記録する機能 – 記録先はテーブルかファイルを指定可能 – インデックスが使われていないSQLも記録可能 – SELECT結果件数が閾値以上のSQLも記録可能 explain構文 • SELECT文の実行計画を表示する – 遅いSQLをexplainで解析し、改修計画を考える Copyright 2010 KLab Inc. All rights reserved. 30

■4.SELECTクエリをスレーブDBに逃がすマスタースレーブ DB DB Insert into hoge values(1,hoge); Insert into hoge values(1,hoge); MySQLのレプリケーション機能マスターDBの変更をスレーブDBに反映する仕組み非同期処理のため、伝送遅延がおきる前日のユーザーランキング等、遅延してもいい情報をスレーブDBからSELECTすることでマスター DBへの参照を軽減することが出来る Copyright 2010 KLab Inc. All rights reserved. 31

■6.アプリから明示的にDB接続を切断する • PHPからのmysqlへの接続時間を短くする • mysql_pconnect()を使用しない • 時間のかかる処理の手前でDB接続を閉じる • 外部API呼び出し前（OpenSocialAPI各種） • 画像合成前 • 外部プロセス呼び出し前(exec(),proc_open()等) mysql_connect() mysql_close() 時間のかかる処理 PHP PHP 実行開始実行終了 Copyright 2010 KLab Inc. All rights reserved. 33

■1.APCを導入する APC(Alternative PHP cache) PHPのコンパイル結果をキャッシュを行う拡張モジュール • apc.shm_sizeにてキャッシュ用割り当てメモリを指定 • 環境によってはapc.statをoffにすることで高速化する場合もあり実はAPCにはもう一つの便利な使い方が・・・ Copyright 2010 KLab Inc. All rights reserved. 38

■1.APCを導入するユーザーキャッシュ機能 PHPの変数をキャッシュして別のリクエストで使いまわすことが出来る →WEBサーバのメモリに保存するためSET,GETが非常に高速 →永続化されないため、一時的なキャッシュとしてつかうこと $var = “hogehoge”; //期限無しでキャッシュ $result = apc_store(“key”,$var,0); If($result ===true){ //キャッシュから値を取得 echo apc_fetch(“key”); //キャッシュから削除 apc_delete(“key”); } Copyright 2010 KLab Inc. All rights reserved. 39

■3.プロファイルを取って現状を把握するそれでも駄目ならプロファイリング！ • Xdebugを導入し、関数ごとの実行時間を取得する • 取得結果をプロファイリングツールを使って解析する (Windows・・・WinCacheGrind等） • （呼び出し回数×実行時間）が大きい関数がボトルネック。 – ボトルネックを見つければ後は改善策を考えるだけ！某アプリでは画像合成処理がボトルネックになっていることが発覚 Copyright 2010 KLab Inc. All rights reserved. 43

■4.画像合成を高速化する • キャッシュを検討するもmemcachedの容量不足 • 1ユーザー(約50KB) × ユーザー数(200万（仮））＝ 100GB • 各WEBサーバのローカルにファイルキャッシュを試したが、ディスクIOが上がって逆効果 • GD自体を改造して合成処理の高速化&キャッシュしない！ Copyright 2010 KLab Inc. All rights reserved. 45

■4.画像合成を高速化する GDのネイティブ関数を改修 1. 画像の読み込み • 画像読み込み関数のロジックを修正 2. 画像の重ね合わせ • 画像コピー関数のロジックを修正 3. サムネイル画像の為の縮小 • 画像縮小関数のロジックを修正 ImageMagickを使い１～３まで500msecかかっていた案件でも画像合成が100msec弱と、5倍以上高速化出来た。 Copyright 2010 KLab Inc. All rights reserved. 46

■高負荷対策のまとめ負荷対策とは HTTPの待ち行列を取り除く行為ロード WEB DB バランササーバサーバ • 初期開発時のみならず、機能追加や修正を行う毎に待ち行列を作りやすい • 負荷対策は、【待ち行列を発見→待ち行列の除去】を繰り返す終りなき戦い • アプリだけで頑張らずに時にはハードウェアへの積極的な投資も検討する Copyright 2010 KLab Inc. All rights reserved. 48

http://ke-tai.org	5268
http://d.hatena.ne.jp	636
http://s.deeeki.com	35
http://webcache.googleusercontent.com	29
http://www.sfexception.com	15
http://www.techgig.com	12
http://linyo.ws	7
http://static.slidesharecdn.com	5
http://www.infony.co.cc	4
http://localhost	2
http://paper.li	2
http://twitter.com	1
http://slideclip.b-prep.com	1
http://stakaya.tumblr.com	1
http://cache.yahoofs.jp	1

Lampで作るソーシャルアプリの負荷対策～アプリとインフラの調和のテクニック～

by KLab株式会社 on Jul 15, 2010

Accessibility

Categories

Tags

Upload Details

Usage Rights

15 Embeds 6,019

Statistics

Lampで作るソーシャルアプリの負荷対策～アプリとインフラの調和のテクニック～ — Presentation Transcript