Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
Flink + Prometheus + Grafana
による
アクセスログの可視化とAlerting
松崎 学 (matsumana), LINE Fukuoka Dev Dept
- PrometheusとGrafanaの概要
- Prometheusの主なAdvantage
- Grafanaの主なAdvantage
- Flink + Prometheus + Grafana導入前
- Flink + Prometh...
PrometheusとGrafanaの概要
Prometheusの主なAdvantage
-様々なミドルウェアのexporterが既に存在している
-無いものは自分で作ればよい
Grafanaの主なAdvantage
-time rangeを自由に指定可能
(e.g. 直近48Hを表示、昨日の14:00~15:00を表示 など)
-カーソルを当てればその時点のメトリクス値が表示される
Flink + Prometheus + Grafana導入前
問題点(1)
-Fluentdで集計
-データ量が多いとサンプリングが必要
-サンプリングで消えたデータを見落とす
(e.g. 5xxの発生など)
問題点(2)
-GrowthForecast (主にGrafanaと比較して)
-time rangeの柔軟な指定やzoom inができない
-実際のメトリクス値を確認できない
-複合グラフは自分で作らないといけない
問題点解決のため移行
-Fluentdで集計 → Flinkへ
-GrowthForecast → Prometheus + Grafanaへ
Flink + Prometheus + Grafana導入後
Grafana Dashboard
-http statusそれぞれの発生回数
-http statusの割合
-latencyの割合
-latencyのpercentile
なぜFlink?
-このプロジェクトを進行している時、別チームがNorikraから
Flinkへの移行中だった
※LINE Developer Day 2016の資料が公開されています
【B-6】New Stream Processing Pl...
移行によって改善できた事 (1)
-Fluentdで集計 → Flink
-サンプリング無しで全ログを処理出来るようになった
移行によって改善できた事 (2)
-GrowthForecast → Prometheus + Grafana
-time rangeの柔軟な指定やzoom inが出来るようになった
-実際のメトリクス値をGrafanaで確認出来るようになった...
移行によって改善できた事 (3)
-今まで出来なかった事が出来るようになった
-Prometheusでサービス毎に最適な閾値でアラート通知
(e.g. latency悪化、5xx増加など)
Thank you
Flink + Prometheus + Grafanaによるアクセスログの可視化とAlerting
Upcoming SlideShare
Loading in …5
×

Flink + Prometheus + Grafanaによるアクセスログの可視化とAlerting

902 views

Published on

LINE DEVELOPER DAY 2017 C-12

Published in: Technology
  • DOWNLOAD THIS BOOKS INTO AVAILABLE FORMAT (Unlimited) ......................................................................................................................... ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download Full EPUB Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... ACCESS WEBSITE for All Ebooks ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download EPUB Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download doc Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... ......................................................................................................................... ......................................................................................................................... .............. Browse by Genre Available eBooks ......................................................................................................................... Art, Biography, Business, Chick Lit, Children's, Christian, Classics, Comics, Contemporary, Cookbooks, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, History, Horror, Humor And Comedy, Manga, Memoir, Music, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Romance, Science, Science Fiction, Self Help, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult,
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here
  • DOWNLOAD THIS BOOKS INTO AVAILABLE FORMAT (Unlimited) ......................................................................................................................... ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download Full EPUB Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... ACCESS WEBSITE for All Ebooks ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download EPUB Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download doc Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... ......................................................................................................................... ......................................................................................................................... .............. Browse by Genre Available eBooks ......................................................................................................................... Art, Biography, Business, Chick Lit, Children's, Christian, Classics, Comics, Contemporary, Cookbooks, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, History, Horror, Humor And Comedy, Manga, Memoir, Music, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Romance, Science, Science Fiction, Self Help, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult,
       Reply 
    Are you sure you want to  Yes  No
    Your message goes here

Flink + Prometheus + Grafanaによるアクセスログの可視化とAlerting

  1. 1. Flink + Prometheus + Grafana による アクセスログの可視化とAlerting 松崎 学 (matsumana), LINE Fukuoka Dev Dept
  2. 2. - PrometheusとGrafanaの概要 - Prometheusの主なAdvantage - Grafanaの主なAdvantage - Flink + Prometheus + Grafana導入前 - Flink + Prometheus + Grafana導入後 - 移行によって改善できた事 Agenda
  3. 3. PrometheusとGrafanaの概要
  4. 4. Prometheusの主なAdvantage -様々なミドルウェアのexporterが既に存在している -無いものは自分で作ればよい
  5. 5. Grafanaの主なAdvantage -time rangeを自由に指定可能 (e.g. 直近48Hを表示、昨日の14:00~15:00を表示 など) -カーソルを当てればその時点のメトリクス値が表示される
  6. 6. Flink + Prometheus + Grafana導入前
  7. 7. 問題点(1) -Fluentdで集計 -データ量が多いとサンプリングが必要 -サンプリングで消えたデータを見落とす (e.g. 5xxの発生など)
  8. 8. 問題点(2) -GrowthForecast (主にGrafanaと比較して) -time rangeの柔軟な指定やzoom inができない -実際のメトリクス値を確認できない -複合グラフは自分で作らないといけない
  9. 9. 問題点解決のため移行 -Fluentdで集計 → Flinkへ -GrowthForecast → Prometheus + Grafanaへ
  10. 10. Flink + Prometheus + Grafana導入後
  11. 11. Grafana Dashboard -http statusそれぞれの発生回数 -http statusの割合 -latencyの割合 -latencyのpercentile
  12. 12. なぜFlink? -このプロジェクトを進行している時、別チームがNorikraから Flinkへの移行中だった ※LINE Developer Day 2016の資料が公開されています 【B-6】New Stream Processing Platform with Apache Flink
  13. 13. 移行によって改善できた事 (1) -Fluentdで集計 → Flink -サンプリング無しで全ログを処理出来るようになった
  14. 14. 移行によって改善できた事 (2) -GrowthForecast → Prometheus + Grafana -time rangeの柔軟な指定やzoom inが出来るようになった -実際のメトリクス値をGrafanaで確認出来るようになった -複合グラフを自分で作らなくてもよくなった -全てのメトリクスが1つのツールで見れるようになった
  15. 15. 移行によって改善できた事 (3) -今まで出来なかった事が出来るようになった -Prometheusでサービス毎に最適な閾値でアラート通知 (e.g. latency悪化、5xx増加など)
  16. 16. Thank you

×