More Related Content
What's hot
What's hot (20)
Similar to ELK Stack - Kibana操作實務
Similar to ELK Stack - Kibana操作實務 (20)
ELK Stack - Kibana操作實務
- 1. ELK Stack - Kibana操作實務 Elasticsearch, Logstash, Kibana一起講不完 從看得見的操作面開始 總管理處資訊管理部 張凱迪 kedy.ch@udngroup.com 1
- 2. Outline • Basic Concept • Discover • Visualization • Dashboard • Conclusion 2
- 3. Kibana • 有點像Splunk的東西 • 嚴格說起來不能比 • 認真說來也買不起 3 欄位名稱 搜尋條件 符合搜尋條件之事件數分布 符合搜尋條件之事件內容 功能表選單
- 6. 基礎觀念 6 • 主要欄位 • @source_host • @source_host_ip • @timestamp • @version • 資料型態 • 文字 • 地點 • 時間 • 數字
- 7. 基礎觀念 • Documents in Elasticsearch • 可以是非結構化型態 • 不定義欄位也可以搜尋跟儲存 • 但不好分析 (無法視覺化) • 要定義欄位 7
- 8. Discover 8
- 9. Discover 9 • 關鍵字搜尋 • 邏輯運算子 • 指定欄位 • 數值範圍 • 可組合運用
- 10. 現在有什麼 • 假單(IIS5) • type: iis5 • Oracle ERP (Apache) • type: apache • Paloalto (類syslog) • type: paloalto • 當logstash grok解析錯誤時會加上tag: _grokparsefailure 10
- 11. 1973年 蔣經國於行政院長任內公開演講 • 當時工商界的困境 • 政府借錢給企業，限定用在工業商業活動 • 醬油的錢就是買醬油、買醋的錢就是買醋 11
- 12. 12
- 13. 賺錢要正當、用錢要恰當 • 日誌分析也是 • IIS的response就是IIS的response • Apache的response就是apache的response • 不能混為一談 • type要限定好 13
- 14. 基礎觀念 • 先清楚什麼type存什麼log • 框好圈圈, 找到結果才正確 • 預期要找IIS server Reponse=500 • 使用使用resposne: 500去找 • 結果會有一堆apache的response:500 (因為都是response欄位) • 建議搜尋都要指定好type • 同時看不同設備 再用布林運算 OR 同時呈現不同條件 14
- 15. Discover-搜尋 • SourceAddress: “10.201.80.51” • 聯經數位假單系統測試主機 • 每分鐘觸發6000筆事件紀錄，累計約6300萬筆 15
- 16. Discover-搜尋 • SourceAddress: “10.201.80.51” • 聯經數位假單系統測試主機 • 每天觸發50萬到100萬次不等，聞到怪怪的味道 • 接著查連去哪、做什麼(才有前面的故事可以講) 16
- 19. • 關鍵字搜尋 • 邏輯運算子 • 指定欄位 • 數值範圍 • 可組合運用 操作時間 1. ERP非200 OK回應數量比例 • Tip: 從左側欄位列看比例 2. 外部存取ERP 回應為 404 not found最多是誰 3. 假單70851取得請假紀錄次數 • Tip: GetPersonalLeave.asp • Tip: txtUserID 4. 今年八月PA commit次數 • 要求: 只顯示日期、命令 5. 今年八月PA email密碼嘗試 • POP3, SMTP, IMAP比例 • 先觀察，用直覺累積經驗 19
- 20. • ERP系統非200 OK回應 • type: apache AND NOT tags:"_grokparsefailure" AND NOT response:200 操作時間1 20
- 21. 操作時間2 • 外部存取ERP 回應為404 not found最多是誰 • type: apache AND NOT tags:"_grokparsefailure" AND response:404 AND NOT clientip:10.* • RFC定義之private IP更廣, 可自行嘗試 21
- 22. 操作時間3 • 假單70851取得請假紀錄 • Tip: GetPersonalLeave.asp • Tip: txtUserID • type: iis5 AND NOT tags:"_grokparsefailure" AND "GetPersonalLeave.asp" AND "txtUserID=70851" 22 收件匣清單程式 取得趕快核數量 個人請假報表清單程式 取得員工請假紀錄 計算工作誌列追事項數量
- 23. 操作時間4 • 今年八月PA commit紀錄、只顯示日期、命令 • type: paloalto AND Type:CONFIG AND NOT tags:_grokparsefailure AND Cmd:commit 23
- 24. 操作時間5 • PA email密碼暴力嘗試紀錄 • type: paloalto AND Type:Threat AND ThreatID:"MAIL: User Login Brute Force Attempt(40007)“ 24
- 25. 操作時間5 • PA email密碼暴力嘗試紀錄 • 沒看到IMAP!? • type: paloalto AND Type:Threat AND ThreatID:"MAIL: User Login Brute Force Attempt(40007)" AND NOT (Application:smtp OR Application:pop3) 25
- 26. Visualize 26
- 27. 27
- 28. Visualize-視覺化 • 建立視覺化搜尋 • 選定視覺化類型 • 設定呈現內容 • Y軸 • 加總, 計算, 統計 • X軸 • 分線, 分圖, 堆疊 • 站在自己肩膀上 • 儲存再利用 28
- 30. Data table • 簡單來說 就是個表格 30
- 33. Metric • 簡易計算結果呈現 • 加減乘除標準差 • 最大最小平均值 33
- 35. Pie chart • 其實就是圓餅圖 • 可以看更多 35
- 37. Vertical bar chart • 垂直霸圖 37
- 38. Vertical bar chart • 垂直霸圖 • 分霸一下 • 比較霸氣 38
- 39. Visualize-視覺化 • 建立視覺化搜尋 • 選定視覺化類型 • 設定呈現內容 • Y軸 • 加總, 計算, 統計 • X軸 • 分線, 分圖, 堆疊 • 站在自己肩膀上 • 儲存再利用 39
- 40. 操作時間 1. 用Mertic算出PA九月前七天傳輸總量(收/送/總和) 2. 用Data table做九月前七天傳輸總量來源IP前10名 3. 用Line chart做九月前七天傳輸總量來源IP前10名 4. 用Pie chart做九月前七天傳輸總量來源IP前10名 • 多展現該IP使用的Application 5. 自由發揮 40
- 46. 操作時間4 • 用Pie chart做九月前七天傳輸總量來源IP前10名 • 多展現該IP使用的Application 46
- 47. Dashboard 47
- 48. Dashboard-儀錶板 • 要看的東西太多了 • IP 流量 應用程式 威脅數量 威脅種類 內容…. • 一個一個看視覺化會切到俗翹翹 • 看這個我已經忘了前一個是什麼 • 身為網管人，要「綜觀全局」 • 一次看多一點 48
- 51. 操作時間 • 青菜蘿蔔各有所好，沒有絕對好壞對錯。 • 適合判讀的儀表，就是好儀表。 • 請由存檔的視覺，製作儀表並解釋其意義。 51
- 52. Conclusion • Kibana結合Elasticsearch成為分析資料快速上手的工具 • 正確搜尋是一切根基 • Garbage in garbage out • 基於搜尋建立有意義的視覺分析 • 日誌分析是最基本功能 • 每門日誌都是一門學問 • 匯聚有效的視覺分析，建立易於判讀的儀表板 52
Editor's Notes
- ERP 1,506,249 type: apache AND NOT tags:"_grokparsefailure" 2016-01-20 00:00:00.000 2016-04-21 00:00:00.000 假單 28,482,059 type: iis5 AND NOT tags:"_grokparsefailure“ 2013-12-30 00:00:00.000 2016-02-20 00:00:00.000