ライブドア様xKLab合同勉強会 システムモニタリングツール「Ganglia」の紹介

Copyright © KLab Inc. All rights reserved.
KLab 株式会社
ライブドア様×KLab
合同勉強会
システムモニタリングツール「Ganglia」の紹介
第弐開発部
横川 和哉
~なんでもデータを取ってグラフ化しよう!~
Copyright © KLab Inc. All rights reserved. 2
 自己紹介
目次
 Ganglia の特徴
 システムモニタリングツールとは
 DSAS での利用例
 ganglia のおかげで...
 まとめ
Copyright © KLab Inc. All rights reserved. 3
自己紹介
 横川和哉(31)
 インフラストラクチャエンジニア
 ネットワークに関すること全般が得意
 プレグラムに関すること全般が苦手
 トラブル(祭り)大好き
Copyright © KLab Inc. All rights reserved. 4
システムモニタリングツールとは
 負荷試験の参考
 トラブル時の原因究明
 ボトルネックの発見 などなど
 ネットワークトラフィックやサーバ負荷状況などを収集、
蓄積し視覚化するツール
 世の中の多くは rrdtool (データの蓄積/グラフ化を行う
ツール)のフレントエンド
 主な利用用途
※ 監視ツールのお話ではありません
Copyright © KLab Inc. All rights reserved. 5
Ganglia の特徴
Copyright © KLab Inc. All rights reserved. 6
Ganglia とは
 rrdtool のフレントエンドとしての実装の一つ
 主に、カリフォルニア大学のElectrical Engineering and
Computer Sciences 部でオープンソースで開発されている
 はじめから、数千のノードまで対応できるように設計
Copyright © KLab Inc. All rights reserved.
データ収集サーバ
7
Ganglia の仕組み
 一般的なシステムモニタリングツール Cacti の構成
WEB/DBサーバなど
snmpd
snmpd
MySQL
(設定情報)
Poller
RRD
SNMP
SNMP
収集サーバが各サーバに
対してデータを取りに行く
Copyright © KLab Inc. All rights reserved.
データ収集サーバ
8
 Ganglia の構成
WEB/DBサーバなど
gmond
gmetad/Poller
(設定情報)
RRD
gmond
Multicast
Channel
(専用プレ
トコル)
gmondgmetric
Ganglia の仕組み
etc
各サーバがデ
ータを投げる
対象の port で
Listen
Copyright © KLab Inc. All rights reserved. 9
Ganglia の特徴まとめ
 Multicast を利用
 サーバの管理情報は自動生成
 クライアントからのプッシュ型
 snmp は使わずに、専用プレトコルを利用
 プレトコルに従っていれば別のプレグラムからも送信が可能
 収集サーバは対象 Multicast Channel の範囲で何台でも設置
可能
Copyright © KLab Inc. All rights reserved. 10
DSAS での利用例
Copyright © KLab Inc. All rights reserved. 11
DSAS で Ganglia を使うワケ
 Multicast を利用
=> DSAS は基本的にぬとつのネットワークなので問題なし
 サーバの管理情報は自動生成
=> DSAS ではNetwork Boot のイメージに gmond をいれているのでサ
ーバを追加しても設定追加などの手間がかからない
 snmp は使わずに、専用プレトコルを利用
=> DSAS は スイッチ 以外すべて Linux なので問題なし
 プレトコルに従っていれば別のプレグラムからも送付が可能
=> デフォルトで用意されているネットワークトラフィックやLoad Average
以外の情報取得が簡単
 収集サーバは対象 Multicast Channel の範囲ならば何台でも設置可能
=> 冗長化が簡単
Copyright © KLab Inc. All rights reserved. 12
簡単にデータ送信 gmetric コマンド
$ gmetric -–name=‘ftp_user’ ¥
–-value=` netstat -an|grep ':21 ' |wc -l` ¥
--type=int8
 単体で、ganglia 用のデータ送信ができるコマンド
 送信先アドルスなどは conf ファイルを読み込んでくれるので
gmond (デフォルトの収集daemon) を動かしていれば設定がい
らない
 名前(rrd のファイル名となる) と値、タイプ(string |int8 |uint8
|int16 |uint16|int32|uint32|float|double )を指定するだけでデ
ータ送信ができる
 例
Copyright © KLab Inc. All rights reserved. 13
DSAS で追加取得しているデータ
 ボトルネックになりせうなもの、なってきたもの
 継続的にデータを取っておくことでトラブル解決に役に立ちせう
なもの
 具体例
 Disk
 Network
 Apache
 MySQL
 Memcached/TokyoTyrant
Copyright © KLab Inc. All rights reserved. 14
Disk
 /proc/stat から取得
 ディスクIOの量
 ディスクIOを発生させているプロセスの数
 DiskI/O
Copyright © KLab Inc. All rights reserved. 15
Disk
 Disk のSmart情報(smartctl)から取得
 代替セクタ数
 HDDの温度
 Smart情報
Copyright © KLab Inc. All rights reserved. 16
Apache
 http://localhost/server-status?auto から取得
 各apacheプレセスの状態
Copyright © KLab Inc. All rights reserved. 17
Apache
 Apache のログを CustomLog ディレクティブで解析プログラ
ムに渡して取得
 HTTP Status 毎の秒間リクエスト数
 平均レスポンス時間
 pv/sec
Copyright © KLab Inc. All rights reserved. 18
MySQL
 show variables や show global status から取得
 クエリ数など
Copyright © KLab Inc. All rights reserved. 19
MySQL
 port 3306 への Established なコネクションを取得
 show global status などでは取りにくい瞬間値を取るため
 コネクション数
Copyright © KLab Inc. All rights reserved. 20
Memcached/TokyoTyrant
 localhost:11211 などに繋ぎ、stats 情報を取得
 接続数
 レクエスト数
 eviction
 統計情報
Copyright © KLab Inc. All rights reserved. 21
Network
 Traffic
 IP毎のトラフィック量の測定
 GWサーバの iptables を利用して取得
Copyright © KLab Inc. All rights reserved. 22
Ganglia のおかげで..
Copyright © KLab Inc. All rights reserved. 23
例1 パフォーマンス改善
 TokyoTyrant で get miss が異様に多い
Copyright © KLab Inc. All rights reserved. 24
例1 パフォーマンス改善
 アプリを改善した結果
平均ルスポンスタイムも 数ms 改善
Copyright © KLab Inc. All rights reserved. 25
例2 パフォーマンス改善
 MySQL への不要なクエリ発行をやめた
Copyright © KLab Inc. All rights reserved. 26
例2 パフォーマンス改善
 ルスポンスタイムが改善してることがはっきりわかる
改善前 改善後
Copyright © KLab Inc. All rights reserved. 27
まとめ
Copyright © KLab Inc. All rights reserved. 28
まとめ
 システムモニタリングツールは手軽に対象機器の追加や、モニ
タリング項目の追加ができるのが理想
 Ganglia ならば簡単に対象機器の追加が行える
 Ganglia ならば、モニタリング項目の追加もちょっとスクリプトを
かくだけで簡単
 Ganglia に限らず、いれいれとデータを取っておけば、ボトルネッ
クを見つけることもできるし、トラブル発生時の原因特定もずい
ぶん楽になる
 パフォーマンスの改善の結果がきっちり目に見えるとモチベー
ションも上がる
Copyright © KLab Inc. All rights reserved. 29
ご清聴
ありがとうございました
1 of 29

Recommended

Gangliaはじめました by
GangliaはじめましたGangliaはじめました
Gangliaはじめましたyuzorock
21.5K views23 slides
PG-REXで学ぶPacemaker運用の実例 by
PG-REXで学ぶPacemaker運用の実例PG-REXで学ぶPacemaker運用の実例
PG-REXで学ぶPacemaker運用の実例kazuhcurry
14.8K views91 slides
Consistency level by
Consistency levelConsistency level
Consistency levelKazutaka Tomita
4.6K views10 slides
Serviceability Toolsの裏側 by
Serviceability Toolsの裏側Serviceability Toolsの裏側
Serviceability Toolsの裏側Yasumasa Suenaga
4.8K views56 slides
Cpu cache arch by
Cpu cache archCpu cache arch
Cpu cache archShinichiro Niiyama
6.9K views43 slides
CPUの同時実行機能 by
CPUの同時実行機能CPUの同時実行機能
CPUの同時実行機能Shinichiro Niiyama
4.4K views53 slides

More Related Content

What's hot

Native Memory Tracking by
Native Memory TrackingNative Memory Tracking
Native Memory TrackingTakahiro YAMADA
8.4K views16 slides
OSSで実現するハイブリッドクラウド4ノードクラスタ ~Pacemakerのチケット機能で災害対策~ by
OSSで実現するハイブリッドクラウド4ノードクラスタ ~Pacemakerのチケット機能で災害対策~OSSで実現するハイブリッドクラウド4ノードクラスタ ~Pacemakerのチケット機能で災害対策~
OSSで実現するハイブリッドクラウド4ノードクラスタ ~Pacemakerのチケット機能で災害対策~tkomachi
3.4K views40 slides
Javaトラブルに備えよう #jjug_ccc #ccc_h2 by
Javaトラブルに備えよう #jjug_ccc #ccc_h2Javaトラブルに備えよう #jjug_ccc #ccc_h2
Javaトラブルに備えよう #jjug_ccc #ccc_h2Norito Agetsuma
44.5K views78 slides
MongoDB2.2の新機能 by
MongoDB2.2の新機能MongoDB2.2の新機能
MongoDB2.2の新機能Shoken Fujisaki
3.8K views23 slides
PacemakerのMaster/Slave構成の基本と事例紹介(DRBD、PostgreSQLレプリケーション) @Open Source Confer... by
PacemakerのMaster/Slave構成の基本と事例紹介(DRBD、PostgreSQLレプリケーション) @Open Source Confer...PacemakerのMaster/Slave構成の基本と事例紹介(DRBD、PostgreSQLレプリケーション) @Open Source Confer...
PacemakerのMaster/Slave構成の基本と事例紹介(DRBD、PostgreSQLレプリケーション) @Open Source Confer...Tatsuya Watanabe
29.9K views105 slides
社内勉強会02 シリアライズ[公開用] by
社内勉強会02 シリアライズ[公開用]社内勉強会02 シリアライズ[公開用]
社内勉強会02 シリアライズ[公開用]Keme Sato
3.8K views33 slides

What's hot(20)

OSSで実現するハイブリッドクラウド4ノードクラスタ ~Pacemakerのチケット機能で災害対策~ by tkomachi
OSSで実現するハイブリッドクラウド4ノードクラスタ ~Pacemakerのチケット機能で災害対策~OSSで実現するハイブリッドクラウド4ノードクラスタ ~Pacemakerのチケット機能で災害対策~
OSSで実現するハイブリッドクラウド4ノードクラスタ ~Pacemakerのチケット機能で災害対策~
tkomachi3.4K views
Javaトラブルに備えよう #jjug_ccc #ccc_h2 by Norito Agetsuma
Javaトラブルに備えよう #jjug_ccc #ccc_h2Javaトラブルに備えよう #jjug_ccc #ccc_h2
Javaトラブルに備えよう #jjug_ccc #ccc_h2
Norito Agetsuma44.5K views
PacemakerのMaster/Slave構成の基本と事例紹介(DRBD、PostgreSQLレプリケーション) @Open Source Confer... by Tatsuya Watanabe
PacemakerのMaster/Slave構成の基本と事例紹介(DRBD、PostgreSQLレプリケーション) @Open Source Confer...PacemakerのMaster/Slave構成の基本と事例紹介(DRBD、PostgreSQLレプリケーション) @Open Source Confer...
PacemakerのMaster/Slave構成の基本と事例紹介(DRBD、PostgreSQLレプリケーション) @Open Source Confer...
Tatsuya Watanabe29.9K views
社内勉強会02 シリアライズ[公開用] by Keme Sato
社内勉強会02 シリアライズ[公開用]社内勉強会02 シリアライズ[公開用]
社内勉強会02 シリアライズ[公開用]
Keme Sato3.8K views
AmebaのMongoDB活用事例 by Akihiro Kuwano
AmebaのMongoDB活用事例AmebaのMongoDB活用事例
AmebaのMongoDB活用事例
Akihiro Kuwano7.7K views
Lvmを縮小してみた by koedoyoshida
Lvmを縮小してみたLvmを縮小してみた
Lvmを縮小してみた
koedoyoshida5K views
ゆるふわLinux-HA 〜PostgreSQL編〜 by Taro Matsuzawa
ゆるふわLinux-HA 〜PostgreSQL編〜ゆるふわLinux-HA 〜PostgreSQL編〜
ゆるふわLinux-HA 〜PostgreSQL編〜
Taro Matsuzawa6.8K views
Jvm internal by Go Tanaka
Jvm internalJvm internal
Jvm internal
Go Tanaka5.9K views
第六回渋谷Java Java8のJVM監視を考える by chonaso
第六回渋谷Java Java8のJVM監視を考える第六回渋谷Java Java8のJVM監視を考える
第六回渋谷Java Java8のJVM監視を考える
chonaso15.4K views
Pacemaker + PostgreSQL レプリケーション構成(PG-REX)のフェイルオーバー高速化 by kazuhcurry
Pacemaker + PostgreSQL レプリケーション構成(PG-REX)のフェイルオーバー高速化Pacemaker + PostgreSQL レプリケーション構成(PG-REX)のフェイルオーバー高速化
Pacemaker + PostgreSQL レプリケーション構成(PG-REX)のフェイルオーバー高速化
kazuhcurry11K views
CyberAgentにおけるMongoDB by Akihiro Kuwano
CyberAgentにおけるMongoDBCyberAgentにおけるMongoDB
CyberAgentにおけるMongoDB
Akihiro Kuwano17.7K views
OpenStack + Common Lisp by irix_jp
OpenStack + Common LispOpenStack + Common Lisp
OpenStack + Common Lisp
irix_jp4.6K views
OpenStack を 拡張する NetApp Unified Driver の使い方 Vol.001 by Takeshi Kuramochi
OpenStack を 拡張する NetApp Unified Driver の使い方 Vol.001OpenStack を 拡張する NetApp Unified Driver の使い方 Vol.001
OpenStack を 拡張する NetApp Unified Driver の使い方 Vol.001
Takeshi Kuramochi3.2K views
MongoDB Configパラメータ解説 by Shoken Fujisaki
MongoDB Configパラメータ解説MongoDB Configパラメータ解説
MongoDB Configパラメータ解説
Shoken Fujisaki32.2K views
Cassandraのしくみ データの読み書き編 by Yuki Morishita
Cassandraのしくみ データの読み書き編Cassandraのしくみ データの読み書き編
Cassandraのしくみ データの読み書き編
Yuki Morishita30.8K views
RでGPU使ってみた by Kazuya Wada
RでGPU使ってみたRでGPU使ってみた
RでGPU使ってみた
Kazuya Wada16.2K views

Viewers also liked

データ可視化とコスト管理 Slideshare by
データ可視化とコスト管理 Slideshareデータ可視化とコスト管理 Slideshare
データ可視化とコスト管理 SlideshareYu Nishimura
2.9K views56 slides
gumiサーバー監視とawscli by
gumiサーバー監視とawscligumiサーバー監視とawscli
gumiサーバー監視とawscliYu Nishimura
3.8K views27 slides
学内勉強会をやりたい by
学内勉強会をやりたい学内勉強会をやりたい
学内勉強会をやりたいRyohei Kawashima
1.7K views18 slides
Auto Scalingを一年間運用してみた by
Auto Scalingを一年間運用してみたAuto Scalingを一年間運用してみた
Auto Scalingを一年間運用してみたYu Nishimura
13.5K views47 slides
gumiにおける、海外支社とのAtlassian製品利用事例 by
gumiにおける、海外支社とのAtlassian製品利用事例gumiにおける、海外支社とのAtlassian製品利用事例
gumiにおける、海外支社とのAtlassian製品利用事例知教 本間
1.8K views31 slides
Dockerのディスクについて ~ファイルシステム・マウント方法など~ by
Dockerのディスクについて ~ファイルシステム・マウント方法など~Dockerのディスクについて ~ファイルシステム・マウント方法など~
Dockerのディスクについて ~ファイルシステム・マウント方法など~HommasSlide
14.8K views27 slides

Viewers also liked(17)

データ可視化とコスト管理 Slideshare by Yu Nishimura
データ可視化とコスト管理 Slideshareデータ可視化とコスト管理 Slideshare
データ可視化とコスト管理 Slideshare
Yu Nishimura2.9K views
gumiサーバー監視とawscli by Yu Nishimura
gumiサーバー監視とawscligumiサーバー監視とawscli
gumiサーバー監視とawscli
Yu Nishimura3.8K views
Auto Scalingを一年間運用してみた by Yu Nishimura
Auto Scalingを一年間運用してみたAuto Scalingを一年間運用してみた
Auto Scalingを一年間運用してみた
Yu Nishimura13.5K views
gumiにおける、海外支社とのAtlassian製品利用事例 by 知教 本間
gumiにおける、海外支社とのAtlassian製品利用事例gumiにおける、海外支社とのAtlassian製品利用事例
gumiにおける、海外支社とのAtlassian製品利用事例
知教 本間1.8K views
Dockerのディスクについて ~ファイルシステム・マウント方法など~ by HommasSlide
Dockerのディスクについて ~ファイルシステム・マウント方法など~Dockerのディスクについて ~ファイルシステム・マウント方法など~
Dockerのディスクについて ~ファイルシステム・マウント方法など~
HommasSlide14.8K views
Apache Drill で見る Twitter の世界 by Masaru Watanabe
Apache Drill で見る Twitter の世界Apache Drill で見る Twitter の世界
Apache Drill で見る Twitter の世界
Masaru Watanabe3.8K views
CloudwatchをGrafana+Graphiteで見るようにしたら幸せになった件 by Yu Nishimura
CloudwatchをGrafana+Graphiteで見るようにしたら幸せになった件CloudwatchをGrafana+Graphiteで見るようにしたら幸せになった件
CloudwatchをGrafana+Graphiteで見るようにしたら幸せになった件
Yu Nishimura10.8K views
F.O.Xを支える技術 by Yuto Suzuki
F.O.Xを支える技術F.O.Xを支える技術
F.O.Xを支える技術
Yuto Suzuki3.7K views
Kibanaでsysstatを可視化する by Kensuke Maeda
Kibanaでsysstatを可視化するKibanaでsysstatを可視化する
Kibanaでsysstatを可視化する
Kensuke Maeda9.6K views
あなたのScalaを爆速にする7つの方法 by x1 ichi
あなたのScalaを爆速にする7つの方法あなたのScalaを爆速にする7つの方法
あなたのScalaを爆速にする7つの方法
x1 ichi9.1K views
サイバーエージェント様 発表「OpenStackのNWと物理の話」 by VirtualTech Japan Inc.
サイバーエージェント様 発表「OpenStackのNWと物理の話」サイバーエージェント様 発表「OpenStackのNWと物理の話」
サイバーエージェント様 発表「OpenStackのNWと物理の話」
Ironicを運用して半年が経過しました - OpenStack最新情報セミナー(2016年7月) by VirtualTech Japan Inc.
Ironicを運用して半年が経過しました  - OpenStack最新情報セミナー(2016年7月)Ironicを運用して半年が経過しました  - OpenStack最新情報セミナー(2016年7月)
Ironicを運用して半年が経過しました - OpenStack最新情報セミナー(2016年7月)
AWSとGCPを使用したインフラ環境 by Katsutoshi Nagaoka
AWSとGCPを使用したインフラ環境AWSとGCPを使用したインフラ環境
AWSとGCPを使用したインフラ環境
Katsutoshi Nagaoka17.4K views
Wowzaを用いた配信基盤 Takusuta tech conf01 by Kazuhiro Ota
Wowzaを用いた配信基盤 Takusuta tech conf01Wowzaを用いた配信基盤 Takusuta tech conf01
Wowzaを用いた配信基盤 Takusuta tech conf01
Kazuhiro Ota15.2K views
[社内勉強会]ELBとALBと数万スパイク負荷テスト by Takahiro Moteki
[社内勉強会]ELBとALBと数万スパイク負荷テスト[社内勉強会]ELBとALBと数万スパイク負荷テスト
[社内勉強会]ELBとALBと数万スパイク負荷テスト
Takahiro Moteki29.4K views

Similar to ライブドア様xKLab合同勉強会 システムモニタリングツール「Ganglia」の紹介

2015 0228 OpenStack swift; GMO Internet Services by
2015 0228 OpenStack swift; GMO Internet Services2015 0228 OpenStack swift; GMO Internet Services
2015 0228 OpenStack swift; GMO Internet ServicesNaoto Gohko
3.3K views45 slides
DeNAインフラの今とこれから - 今編 - by
DeNAインフラの今とこれから - 今編 -DeNAインフラの今とこれから - 今編 -
DeNAインフラの今とこれから - 今編 -Tomoya Kabe
5.5K views36 slides
Amandaを使ってバックアップ管理を一元化 by
Amandaを使ってバックアップ管理を一元化Amandaを使ってバックアップ管理を一元化
Amandaを使ってバックアップ管理を一元化賢 秋穂
6.1K views25 slides
MySQL Cluster 解説 & MySQL Cluster 7.3 最新情報 by
MySQL Cluster 解説 & MySQL Cluster 7.3 最新情報MySQL Cluster 解説 & MySQL Cluster 7.3 最新情報
MySQL Cluster 解説 & MySQL Cluster 7.3 最新情報yoyamasaki
3.6K views74 slides
Fpga online seminar by fixstars (1st) by
Fpga online seminar by fixstars (1st)Fpga online seminar by fixstars (1st)
Fpga online seminar by fixstars (1st)Fixstars Corporation
429 views40 slides

Similar to ライブドア様xKLab合同勉強会 システムモニタリングツール「Ganglia」の紹介(20)

2015 0228 OpenStack swift; GMO Internet Services by Naoto Gohko
2015 0228 OpenStack swift; GMO Internet Services2015 0228 OpenStack swift; GMO Internet Services
2015 0228 OpenStack swift; GMO Internet Services
Naoto Gohko3.3K views
DeNAインフラの今とこれから - 今編 - by Tomoya Kabe
DeNAインフラの今とこれから - 今編 -DeNAインフラの今とこれから - 今編 -
DeNAインフラの今とこれから - 今編 -
Tomoya Kabe5.5K views
Amandaを使ってバックアップ管理を一元化 by 賢 秋穂
Amandaを使ってバックアップ管理を一元化Amandaを使ってバックアップ管理を一元化
Amandaを使ってバックアップ管理を一元化
賢 秋穂6.1K views
MySQL Cluster 解説 & MySQL Cluster 7.3 最新情報 by yoyamasaki
MySQL Cluster 解説 & MySQL Cluster 7.3 最新情報MySQL Cluster 解説 & MySQL Cluster 7.3 最新情報
MySQL Cluster 解説 & MySQL Cluster 7.3 最新情報
yoyamasaki3.6K views
2012-04-25 ASPLOS2012出張報告(公開版) by Takahiro Shinagawa
2012-04-25 ASPLOS2012出張報告(公開版)2012-04-25 ASPLOS2012出張報告(公開版)
2012-04-25 ASPLOS2012出張報告(公開版)
Takahiro Shinagawa754 views
Active Directory 侵害と推奨対策 by Yurika Kakiuchi
Active Directory 侵害と推奨対策Active Directory 侵害と推奨対策
Active Directory 侵害と推奨対策
Yurika Kakiuchi12.9K views
アドテク×Scala×パフォーマンスチューニング by Yosuke Mizutani
アドテク×Scala×パフォーマンスチューニングアドテク×Scala×パフォーマンスチューニング
アドテク×Scala×パフォーマンスチューニング
Yosuke Mizutani14.4K views
OpenStackでも重要な役割を果たすPacemakerを知ろう! by ksk_ha
OpenStackでも重要な役割を果たすPacemakerを知ろう!OpenStackでも重要な役割を果たすPacemakerを知ろう!
OpenStackでも重要な役割を果たすPacemakerを知ろう!
ksk_ha3.9K views
【18-E-3】クラウド・ネイティブ時代の2016年だから始める Docker 基礎講座 by Masahito Zembutsu
【18-E-3】クラウド・ネイティブ時代の2016年だから始める Docker 基礎講座【18-E-3】クラウド・ネイティブ時代の2016年だから始める Docker 基礎講座
【18-E-3】クラウド・ネイティブ時代の2016年だから始める Docker 基礎講座
Masahito Zembutsu20.3K views
脆弱性事例に学ぶセキュアコーディング「SSL/TLS証明書検証」編 (JavaDayTokyo2015) by JPCERT Coordination Center
脆弱性事例に学ぶセキュアコーディング「SSL/TLS証明書検証」編 (JavaDayTokyo2015)脆弱性事例に学ぶセキュアコーディング「SSL/TLS証明書検証」編 (JavaDayTokyo2015)
脆弱性事例に学ぶセキュアコーディング「SSL/TLS証明書検証」編 (JavaDayTokyo2015)
[db tech showcase Tokyo 2014] D33: Prestoで実現するインタラクティブクエリ by トレジャーデータ株式会社 斉藤太郎 by Insight Technology, Inc.
[db tech showcase Tokyo 2014] D33: Prestoで実現するインタラクティブクエリ  by トレジャーデータ株式会社 斉藤太郎[db tech showcase Tokyo 2014] D33: Prestoで実現するインタラクティブクエリ  by トレジャーデータ株式会社 斉藤太郎
[db tech showcase Tokyo 2014] D33: Prestoで実現するインタラクティブクエリ by トレジャーデータ株式会社 斉藤太郎
しばちょう先生が語る!オラクルデータベースの進化の歴史と最新技術動向#3 by オラクルエンジニア通信
しばちょう先生が語る!オラクルデータベースの進化の歴史と最新技術動向#3しばちょう先生が語る!オラクルデータベースの進化の歴史と最新技術動向#3
しばちょう先生が語る!オラクルデータベースの進化の歴史と最新技術動向#3
Prestoで実現するインタラクティブクエリ - dbtech showcase 2014 Tokyo by Treasure Data, Inc.
Prestoで実現するインタラクティブクエリ - dbtech showcase 2014 TokyoPrestoで実現するインタラクティブクエリ - dbtech showcase 2014 Tokyo
Prestoで実現するインタラクティブクエリ - dbtech showcase 2014 Tokyo
Treasure Data, Inc.11.7K views
Java EE7 䛸㻌JCache  by maruyama097
Java EE7 䛸㻌JCache Java EE7 䛸㻌JCache 
Java EE7 䛸㻌JCache 
maruyama0973K views

Recently uploaded

01Booster Studio ご紹介資料 by
01Booster Studio ご紹介資料01Booster Studio ご紹介資料
01Booster Studio ご紹介資料ssusere7a2172
300 views19 slides
Windows 11 information that can be used at the development site by
Windows 11 information that can be used at the development siteWindows 11 information that can be used at the development site
Windows 11 information that can be used at the development siteAtomu Hidaka
71 views41 slides
JJUG CCC.pptx by
JJUG CCC.pptxJJUG CCC.pptx
JJUG CCC.pptxKanta Sasaki
6 views14 slides
さくらのひやおろし2023 by
さくらのひやおろし2023さくらのひやおろし2023
さくらのひやおろし2023法林浩之
91 views58 slides
「概念モデリング自動化に向けた第一歩」 ~ ChatGPT・Open AI 活用による開発対象のモデル化 by
「概念モデリング自動化に向けた第一歩」 ~ ChatGPT・Open AI 活用による開発対象のモデル化「概念モデリング自動化に向けた第一歩」 ~ ChatGPT・Open AI 活用による開発対象のモデル化
「概念モデリング自動化に向けた第一歩」 ~ ChatGPT・Open AI 活用による開発対象のモデル化Knowledge & Experience
8 views34 slides
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料) by
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)NTT DATA Technology & Innovation
13 views38 slides

Recently uploaded(12)

01Booster Studio ご紹介資料 by ssusere7a2172
01Booster Studio ご紹介資料01Booster Studio ご紹介資料
01Booster Studio ご紹介資料
ssusere7a2172300 views
Windows 11 information that can be used at the development site by Atomu Hidaka
Windows 11 information that can be used at the development siteWindows 11 information that can be used at the development site
Windows 11 information that can be used at the development site
Atomu Hidaka71 views
さくらのひやおろし2023 by 法林浩之
さくらのひやおろし2023さくらのひやおろし2023
さくらのひやおろし2023
法林浩之91 views
「概念モデリング自動化に向けた第一歩」 ~ ChatGPT・Open AI 活用による開発対象のモデル化 by Knowledge & Experience
「概念モデリング自動化に向けた第一歩」 ~ ChatGPT・Open AI 活用による開発対象のモデル化「概念モデリング自動化に向けた第一歩」 ~ ChatGPT・Open AI 活用による開発対象のモデル化
「概念モデリング自動化に向けた第一歩」 ~ ChatGPT・Open AI 活用による開発対象のモデル化
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料) by NTT DATA Technology & Innovation
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)
速習! PostgreSQL専用HAソフトウェア: Patroni(PostgreSQL Conference Japan 2023 発表資料)
Web3 Career_クレデン資料 .pdf by nanamatsuo
Web3 Career_クレデン資料 .pdfWeb3 Career_クレデン資料 .pdf
Web3 Career_クレデン資料 .pdf
nanamatsuo14 views
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20... by NTT DATA Technology & Innovation
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...
今、改めて考えるPostgreSQLプラットフォーム - マルチクラウドとポータビリティ -(PostgreSQL Conference Japan 20...
SSH応用編_20231129.pdf by icebreaker4
SSH応用編_20231129.pdfSSH応用編_20231129.pdf
SSH応用編_20231129.pdf
icebreaker4172 views
SNMPセキュリティ超入門 by mkoda
SNMPセキュリティ超入門SNMPセキュリティ超入門
SNMPセキュリティ超入門
mkoda175 views
pgvectorを使ってChatGPTとPostgreSQLを連携してみよう!(PostgreSQL Conference Japan 2023 発表資料) by NTT DATA Technology & Innovation
pgvectorを使ってChatGPTとPostgreSQLを連携してみよう!(PostgreSQL Conference Japan 2023 発表資料)pgvectorを使ってChatGPTとPostgreSQLを連携してみよう!(PostgreSQL Conference Japan 2023 発表資料)
pgvectorを使ってChatGPTとPostgreSQLを連携してみよう!(PostgreSQL Conference Japan 2023 発表資料)
The Things Stack説明資料 by The Things Industries by CRI Japan, Inc.
The Things Stack説明資料 by The Things IndustriesThe Things Stack説明資料 by The Things Industries
The Things Stack説明資料 by The Things Industries
CRI Japan, Inc.41 views

ライブドア様xKLab合同勉強会 システムモニタリングツール「Ganglia」の紹介

  • 1. Copyright © KLab Inc. All rights reserved. KLab 株式会社 ライブドア様×KLab 合同勉強会 システムモニタリングツール「Ganglia」の紹介 第弐開発部 横川 和哉 ~なんでもデータを取ってグラフ化しよう!~
  • 2. Copyright © KLab Inc. All rights reserved. 2  自己紹介 目次  Ganglia の特徴  システムモニタリングツールとは  DSAS での利用例  ganglia のおかげで...  まとめ
  • 3. Copyright © KLab Inc. All rights reserved. 3 自己紹介  横川和哉(31)  インフラストラクチャエンジニア  ネットワークに関すること全般が得意  プレグラムに関すること全般が苦手  トラブル(祭り)大好き
  • 4. Copyright © KLab Inc. All rights reserved. 4 システムモニタリングツールとは  負荷試験の参考  トラブル時の原因究明  ボトルネックの発見 などなど  ネットワークトラフィックやサーバ負荷状況などを収集、 蓄積し視覚化するツール  世の中の多くは rrdtool (データの蓄積/グラフ化を行う ツール)のフレントエンド  主な利用用途 ※ 監視ツールのお話ではありません
  • 5. Copyright © KLab Inc. All rights reserved. 5 Ganglia の特徴
  • 6. Copyright © KLab Inc. All rights reserved. 6 Ganglia とは  rrdtool のフレントエンドとしての実装の一つ  主に、カリフォルニア大学のElectrical Engineering and Computer Sciences 部でオープンソースで開発されている  はじめから、数千のノードまで対応できるように設計
  • 7. Copyright © KLab Inc. All rights reserved. データ収集サーバ 7 Ganglia の仕組み  一般的なシステムモニタリングツール Cacti の構成 WEB/DBサーバなど snmpd snmpd MySQL (設定情報) Poller RRD SNMP SNMP 収集サーバが各サーバに 対してデータを取りに行く
  • 8. Copyright © KLab Inc. All rights reserved. データ収集サーバ 8  Ganglia の構成 WEB/DBサーバなど gmond gmetad/Poller (設定情報) RRD gmond Multicast Channel (専用プレ トコル) gmondgmetric Ganglia の仕組み etc 各サーバがデ ータを投げる 対象の port で Listen
  • 9. Copyright © KLab Inc. All rights reserved. 9 Ganglia の特徴まとめ  Multicast を利用  サーバの管理情報は自動生成  クライアントからのプッシュ型  snmp は使わずに、専用プレトコルを利用  プレトコルに従っていれば別のプレグラムからも送信が可能  収集サーバは対象 Multicast Channel の範囲で何台でも設置 可能
  • 10. Copyright © KLab Inc. All rights reserved. 10 DSAS での利用例
  • 11. Copyright © KLab Inc. All rights reserved. 11 DSAS で Ganglia を使うワケ  Multicast を利用 => DSAS は基本的にぬとつのネットワークなので問題なし  サーバの管理情報は自動生成 => DSAS ではNetwork Boot のイメージに gmond をいれているのでサ ーバを追加しても設定追加などの手間がかからない  snmp は使わずに、専用プレトコルを利用 => DSAS は スイッチ 以外すべて Linux なので問題なし  プレトコルに従っていれば別のプレグラムからも送付が可能 => デフォルトで用意されているネットワークトラフィックやLoad Average 以外の情報取得が簡単  収集サーバは対象 Multicast Channel の範囲ならば何台でも設置可能 => 冗長化が簡単
  • 12. Copyright © KLab Inc. All rights reserved. 12 簡単にデータ送信 gmetric コマンド $ gmetric -–name=‘ftp_user’ ¥ –-value=` netstat -an|grep ':21 ' |wc -l` ¥ --type=int8  単体で、ganglia 用のデータ送信ができるコマンド  送信先アドルスなどは conf ファイルを読み込んでくれるので gmond (デフォルトの収集daemon) を動かしていれば設定がい らない  名前(rrd のファイル名となる) と値、タイプ(string |int8 |uint8 |int16 |uint16|int32|uint32|float|double )を指定するだけでデ ータ送信ができる  例
  • 13. Copyright © KLab Inc. All rights reserved. 13 DSAS で追加取得しているデータ  ボトルネックになりせうなもの、なってきたもの  継続的にデータを取っておくことでトラブル解決に役に立ちせう なもの  具体例  Disk  Network  Apache  MySQL  Memcached/TokyoTyrant
  • 14. Copyright © KLab Inc. All rights reserved. 14 Disk  /proc/stat から取得  ディスクIOの量  ディスクIOを発生させているプロセスの数  DiskI/O
  • 15. Copyright © KLab Inc. All rights reserved. 15 Disk  Disk のSmart情報(smartctl)から取得  代替セクタ数  HDDの温度  Smart情報
  • 16. Copyright © KLab Inc. All rights reserved. 16 Apache  http://localhost/server-status?auto から取得  各apacheプレセスの状態
  • 17. Copyright © KLab Inc. All rights reserved. 17 Apache  Apache のログを CustomLog ディレクティブで解析プログラ ムに渡して取得  HTTP Status 毎の秒間リクエスト数  平均レスポンス時間  pv/sec
  • 18. Copyright © KLab Inc. All rights reserved. 18 MySQL  show variables や show global status から取得  クエリ数など
  • 19. Copyright © KLab Inc. All rights reserved. 19 MySQL  port 3306 への Established なコネクションを取得  show global status などでは取りにくい瞬間値を取るため  コネクション数
  • 20. Copyright © KLab Inc. All rights reserved. 20 Memcached/TokyoTyrant  localhost:11211 などに繋ぎ、stats 情報を取得  接続数  レクエスト数  eviction  統計情報
  • 21. Copyright © KLab Inc. All rights reserved. 21 Network  Traffic  IP毎のトラフィック量の測定  GWサーバの iptables を利用して取得
  • 22. Copyright © KLab Inc. All rights reserved. 22 Ganglia のおかげで..
  • 23. Copyright © KLab Inc. All rights reserved. 23 例1 パフォーマンス改善  TokyoTyrant で get miss が異様に多い
  • 24. Copyright © KLab Inc. All rights reserved. 24 例1 パフォーマンス改善  アプリを改善した結果 平均ルスポンスタイムも 数ms 改善
  • 25. Copyright © KLab Inc. All rights reserved. 25 例2 パフォーマンス改善  MySQL への不要なクエリ発行をやめた
  • 26. Copyright © KLab Inc. All rights reserved. 26 例2 パフォーマンス改善  ルスポンスタイムが改善してることがはっきりわかる 改善前 改善後
  • 27. Copyright © KLab Inc. All rights reserved. 27 まとめ
  • 28. Copyright © KLab Inc. All rights reserved. 28 まとめ  システムモニタリングツールは手軽に対象機器の追加や、モニ タリング項目の追加ができるのが理想  Ganglia ならば簡単に対象機器の追加が行える  Ganglia ならば、モニタリング項目の追加もちょっとスクリプトを かくだけで簡単  Ganglia に限らず、いれいれとデータを取っておけば、ボトルネッ クを見つけることもできるし、トラブル発生時の原因特定もずい ぶん楽になる  パフォーマンスの改善の結果がきっちり目に見えるとモチベー ションも上がる
  • 29. Copyright © KLab Inc. All rights reserved. 29 ご清聴 ありがとうございました