Downloaded 91 times
Uploaded byAtsuko Shibuya
それFluentdで! #fluentd
社内で実はあまり知らない、という声もあって、それfluentdでできるんだけどなぁという実装が多かったので、勉強会してみました。
![[デブサミ秋2015] 新卒入社エンジニアが ２年間fluentdを運用して学んだ事いろいろ](https://cdn.slidesharecdn.com/ss_thumbnails/devsumiautumn-151015035724-lva1-app6892-thumbnail.jpg?width=640&height=640&fit=bounds)
それFluentdで! #fluentd
- 1.
- 2. 自己紹介 のりしろエンジニア。 プロジェクトで落っこちてきた、 なんか細々としたことを拾い上げてやってます。 Twitter : boheanimato -SIer1999/10～ -Yahoo! 2005/11～ -Indival 2007/7～
- 3. INDEX -fluentdの紹介 – こんなことができるようになります – アーキテクチャ簡単紹介 -こんなことをやってみました –apacheのログを集約して、elasticsearchにいれて、kibanaでみてみる – apacheのログをURL毎にグルーピングしてレスポンスタイムを GrowthForecastでみてみる -現状をこうしよう！ – apacheログの集約、集計、活用 – MySQLの更新履歴をfluentdでSolrにいれる -可視化について – 事前に考え抜くこと – 目的の明確化、KGIとKPI – 設計サンプル
- 4. INDEX -fluentdの紹介 – こんなことができるようになります – アーキテクチャ簡単紹介 -こんなことをやってみました –apacheのログを集約して、elasticsearchにいれて、kibanaでみてみる – apacheのログをURL毎にグルーピングしてレスポンスタイムを GrowthForecastでみてみる -現状をこうしよう！ – Apacheログの集約、集計、活用 – MYSQLの更新履歴をfluentdでSolrにいれる – もっといろんなこと -可視化について – 事前に考え抜くこと – 目的の明確化、KGIとKPI – 設計サンプル
- 5.
- 6.
- 7. アーキテクチャ簡単紹介 柔軟なログ収集を可能にする「fluentd」入門 - さくらのナレッジ: http://knowledge.sakura.ad.jp/tech/1336/ ・テキストファイルの末尾か らイベントを読み込む ・TCPソケットをリッスンし て、イベントストリームを受 信する ・syslogプロトコル経由でレ コードを取得 ・ほかのfluentdのノートに 出力する ・MongoDBへとレコードを出 力する ・ファイルに書き出す
- 8.
- 9. プラグイン 超豊富 Fluentd plugins :http://fluentd.org/plugin/
- 10.
- 11. INDEX -fluentdの紹介 – こんなことができるようになります – アーキテクチャ簡単紹介 -こんなことをやってみました –apacheのログを集約して、elasticsearchにいれて、kibanaでみてみる – apacheのログをURL毎にグルーピングしてレスポンスタイムを GrowthForecastでみてみる -現状をこうしよう！ – apacheログの集約、集計、活用 – MySQLの更新履歴をfluentdでSolrにいれる -可視化について – 事前に考え抜くこと – 目的の明確化、KGIとKPI – 設計サンプル
- 12.
- 13. APIServerWebServer Elasticsearch Redis GrouthForcast Raw File StorageServer WebServer forwarder fluent-agent-lite Aggregator Worker serializer Fluentd +plugin watcher Raw File apacheのログを集約（Forwarder）
- 14. apacheのログを集約（Forwarder） LTSV - LabeledTab-Separated Values テキストのフォーマットの仕様。 タブ区切りのフィールドで、ラベルと値を持ちます。 主にログ、特に httpd のアクセスログなどに適用すると便利。 後で、ログの解析の属性指定やelasticsearchに格納する際のカ ラム名として利用。 LTSV FAQ - LTSV って何? どういうところが良いの? - naoyaのはてなダイア リー : http://d.hatena.ne.jp/naoya/20130209/1360381374
- 15. apacheのログを集約（Forwarder） LTSV - LabeledTab-Separated Values Apacheの設定をこうしておくと、 LogFormat "domain:%Vthost:%htserver:%Atident:%ltuser:%uttime:%{%Y/%m/%d %H:%M:%S %z}ttmethod:%mtpath:%U%qtprotocol:%Htstatus:%>stsiz e:%btreferer:%{Referer}itagent:%{User-Agent}itresponse_time:%D" combined_lts こうなります タブ区切りで、ラベル：値で出力されます。
- 16. apacheのログを集約（Forwarder） fluent-agent-lite INPUTプラグイン ログ収集専用のエージェント 正規表現をパースしないため、動作が軽く、負荷の高いアプリ ケーションサーバに同居させてもCPUを使わない。 現状、そのままのログをシェルで集約して、それをもとにバッ チが動いて集計しているので、 既存の仕組みをそのままで、導入できる！ #fluentd 用ログ収集専用のエージェント fluent-agent-lite書いた - tagomorisのメモ置き場 : http://d.hatena.ne.jp/tagomoris/20120314/1331716214
- 17.
- 18.
- 19. apacheのログを集約（Forwarder） Fluentdのログ構造 -Tag – ログの種類。 Fluentdではログの管理を「タグ」で管理します。 タグはイベントを発生させる側などで指定します。 -Time – ログの時刻をUNIX時刻で表したもの -Record –ログの内容がJSONオブジェクトではいります アプリケーション側でのパースが容易 Tag : koala.www. Time : 137084495 Record: {k1:100, k2 :value1}
- 20.
- 21.
- 22.
- 23. fluent-plugin-file-alternative OUTPUTプラグイン 出力フォーマットを自由に変更できる！ （fluentd 標準のファイル出力プラグイン out_fileはメッ セージをJSONにシリアライズして出力するというものなので） 前述のプラグインとあわせると、 「そのままのログを集約して一か所で出力！」がfluentdで実現 できるわけです。 #fluentd fluent-plugin-file-alternative released! - tagomorisのメモ置 き場 : http://d.hatena.ne.jp/tagomoris/20120316/1331886385 apacheのログを集約 （Aggregater/worker/serializer）
- 24.
- 25.
- 26.
- 27.
- 28.
- 29. fluent-plugin-parser 最初、そのままelasticsearchにデータを流すと、messageタグの中には いったまんまelasticsearchインデックスが作成されてしまい、うおおお とか思っていたのですが、 @tagomorisさんから、アドバイスいただきました。 fluent-plugin-parser released! -tagomorisのメモ置き場 : http://d.hatena.ne.jp/tagomoris/20120402/1333363444 apacheのログを集約 （Aggregater/worker/serializer） 負荷の問題がないのなら、 fluent-plugin-parser で ltsv をparse してしまえばいいと思いますよ
- 30.
- 31.
- 32.
- 33.
- 34. INDEX -fluentdの紹介 – こんなことができるようになります – アーキテクチャ簡単紹介 -こんなことをやってみました –apacheのログを集約して、elasticsearchにいれて、kibanaでみてみる – apacheのログをURL毎にグルーピングしてレスポンスタイムを GrowthForecastでみてみる -現状をこうしよう！ – apacheログの集約、集計、活用 – MySQLの更新履歴をfluentdでSolrにいれる -可視化について – 事前に考え抜くこと – 目的の明確化、KGIとKPI – 設計サンプル
- 35.
- 36. apacheのログをURL毎にグルーピング （Aggregater/worker/serializer） fluent-plugin-rewrite このプラグインを用いると、ひとつひとつのmessageについて、 指定したkeyのvalueが特定のパタンにマッチしたら、 -valueを書き換えて、再emitする -そのmessageを無視する -マッチした文字列をtagに追加して、再emitする ということができる。また、それらのルールを複数指定するこ とも可能。 fluent-plugin-rewriteというプラグインを作成した #fluentd -delirious thoughts : http://blog.kentarok.org/entry/2012/07/01/000518
- 37.
- 38.
- 39. apacheのログをURL毎にグルーピング （Aggregater/worker/serializer） fluent-plugin-numeric-monitor 指定したフィールド(の数値)について、min/max/avg およ び指定したパーセンタイル値を算出する。 パーセンタイル値は複数指定できるので、 たとえば 90,95, 98, 99 パーセンタイル値をそれぞれ出 力したりできる。 fluent-plugin-numeric-monitor v0.1.0 and fluent-plugin-numeric- counter v0.1.0 released! - tagomorisのメモ置き場 : http://d.hatena.ne.jp/tagomoris/20120706/1341560190
- 40. apacheのログをURL毎にグルーピング （Aggregater/worker/serializer） Growthforcast 定期的にGrowthForecastに値をPOSTするだけで、設定なしでグ ラフが作れます GrowthForecast - Lightningfast Graphing / Visualization : http://kazeburo.github.io/GrowthForecast/index.ja.html
- 41.
- 42. INDEX -fluentdの紹介 – こんなことができるようになります – アーキテクチャ簡単紹介 -こんなことをやってみました –apacheのログを集約して、elasticsearchにいれて、kibanaでみてみる – apacheのログをURL毎にグルーピングしてレスポンスタイムを GrowthForecastでみてみる -現状をこうしよう！ – apacheログの集約、集計、活用 – MySQLの更新履歴をfluentdでSolrにいれる -可視化について – 事前に考え抜くこと – 目的の明確化、KGIとKPI – 設計サンプル
- 43.
- 44.
- 45.
- 46. INDEX -fluentdの紹介 – こんなことができるようになります – アーキテクチャ簡単紹介 -こんなことをやってみました –apacheのログを集約して、elasticsearchにいれて、kibanaでみてみる – apacheのログをURL毎にグルーピングしてレスポンスタイムを GrowthForecastでみてみる -現状をこうしよう！ – apacheログの集約、集計、活用 – MySQLの更新履歴をfluentdでSolrにいれる -可視化について – 事前に考え抜くこと – 目的の明確化、KGIとKPI – 設計サンプル
- 47.
- 48.
- 49. 可視化について 目的の明確化、KGIとKPIを決める 目標：「売り上げ向上」 KGI（Key Goal indicator） 目標そのものを定量的に評価するもの –「売上」 KPI（Key Performance indicator） ＫGIの構成要素を細分化したもの KGIを達成するために何が必要かを定量的にあらわ す指標 – 「顧客数、一人あたり単価、PV、継続率」
- 50. 可視化について 項目 内容 目的 一目でサーバ情報の異常や傾向を把握できるだけでなく、気になった ところを拡大して調査できるようにする データ変数 ⇔視覚変数 時間（間隔尺度）⇔X座標（定量性・順序性） 各種サーバ情報（比例尺度）⇔ Y座標（定量性・順序性） 利用する 可視化手法 折れ線グラフ 推奨Web特性 アニメーション（リアルタイムでのデータ反映） インタラクション（時間の選択範囲）
- 51.
- 52.