SlideShare a Scribd company logo
1 of 14
Download to read offline
維聖資訊科技股份有限公司
Log分析-使用ELK
全程使用 Jenkins 協助分析 Apache/Nginx 日誌 for 定保
基本步驟
準備好 log 的壓縮檔(ZIP)
開啟 Jenkins: https://jenkins.moodle.tw or https://ci.moodle.tw 都可以, 找到
Elk22, Elk23 的頁籤.
1. 用 Elk2PVE, 建立1台 Elk, 在console最後找到 SSH URI (eg.
admin@192.168.XXX.XXX)
2. 把 SSH URI 帶入, nginx2Elk (or apache2Elk ) , 並上傳ZIP 檔
請注意, 上傳ZIP檔需要時間, 在按下 Build 後不要馬上換頁(否則上傳會中斷)
重要參數(Elk2PVE)
Kibana Version: 請選最新版本(目前 8.10.4)
Locale: 語系(en, 因為中文需要翻譯,不會有最新版本)
doLADP, addMetricbeat: 增加 LDAP 認證, 如果是要做 log 分析不
需要選
重要參數(nginx2Elk)
PROJECTID: 客戶案名(大寫)
logs.zip : Apache/Nginx的log壓縮檔
sshURI: 從 Elk2PVE 拿到的 Kibana 主機SSHURI
createUser, addFilebeat: 是否建立新使者/重新安裝 Filebeat
Elastic port/ Kibana port: 預設即可.
完成後, 進 console, 找 *** Nginx to ELK install is done. 會看
到有兩個超連結, 點第2個超連結, 就會看到 Dashboard.
Dashboard
大log檔案
log檔太大不要上傳
改用 WinSCP 上傳到 Kibana主機, 在 nginx2Elk 指定徑:
1. 先用 Elk2PVE, 建好最新版的 ELK (目前 8.10.4) ⇒ SSHURI
2. 開 WinSCP 上傳 logs 壓縮檔, 並解開. ⇒ log 所在路徑(如圖,
/home/admin/logXXX)
3. 在 nginx2ELK 給 SSHURI 及 LogsPATH (跳過檔案上傳)
done.
在 WinSCP 按 Ctrl + P 直接開啟 SSH console/terminal
Q+A
HeatMap缺欄位問題
hour_of_day, day_of_week
Runtime field
原使用 Scripted field 現已經棄用(deparecated), 官方建議用
Runtime Field.
PUT
"localhost:5601/s/XXX/api/data_views/data_view/XXX*/runtime
_field" -H 'kbn-xsrf: true' -H 'Content-Type: application/json' -d'
hour_of_day
{
"name": "hour_of_day",
"runtimeField": {
"type": "long",
"script": {
"source":
"emit(doc[u0027u0040timestampu0027].value.getHour())"
}
}
}
day_of_week
{
"name": "day_of_week",
"runtimeField": {
"type": "keyword",
"script": {
"source":
"emit(doc[u0027u0040timestampu0027].value.dayOfWeekEnum.
getDisplayName(TextStyle.SHORT, Locale.ROOT))"
}
}
}

More Related Content

Similar to Log分析-使用ELK.pdf

使用Samba提升linux平台开发效率
使用Samba提升linux平台开发效率使用Samba提升linux平台开发效率
使用Samba提升linux平台开发效率Zhen Li
 
Linux commands ppt
Linux commands pptLinux commands ppt
Linux commands pptxiaotingting
 
CKAN 技術介紹 (基礎篇)
CKAN 技術介紹 (基礎篇)CKAN 技術介紹 (基礎篇)
CKAN 技術介紹 (基礎篇)Chengjen Lee
 
优酷 Web网站架构案例分析
优酷   Web网站架构案例分析优酷   Web网站架构案例分析
优酷 Web网站架构案例分析George Ang
 
Youku arch qcon2009_beijing
Youku arch qcon2009_beijingYouku arch qcon2009_beijing
Youku arch qcon2009_beijingdrewz lin
 
Key value store
Key value storeKey value store
Key value storexuanhan863
 
Lucene 全文检索实践
Lucene 全文检索实践Lucene 全文检索实践
Lucene 全文检索实践yiditushe
 
Scrum gathering 2012 shanghai 精益与持续改进分会场演讲话题: 大型企业ci平台建设和实施分享(陈小光)
Scrum gathering 2012 shanghai  精益与持续改进分会场演讲话题: 大型企业ci平台建设和实施分享(陈小光)Scrum gathering 2012 shanghai  精益与持续改进分会场演讲话题: 大型企业ci平台建设和实施分享(陈小光)
Scrum gathering 2012 shanghai 精益与持续改进分会场演讲话题: 大型企业ci平台建设和实施分享(陈小光)LetAgileFly
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡guest2d0fe3
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡Cary Yang
 
使用Nginx轻松实现开源负载均衡——对外版
使用Nginx轻松实现开源负载均衡——对外版使用Nginx轻松实现开源负载均衡——对外版
使用Nginx轻松实现开源负载均衡——对外版pigso
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡cachowu
 
基于Symfony框架下的快速企业级应用开发
基于Symfony框架下的快速企业级应用开发基于Symfony框架下的快速企业级应用开发
基于Symfony框架下的快速企业级应用开发mysqlops
 
IoT開發平台NodeMCU
IoT開發平台NodeMCUIoT開發平台NodeMCU
IoT開發平台NodeMCU承翰 蔡
 
Subversion
SubversionSubversion
Subversioni7Xh
 
Oracle Security 101
Oracle Security 101Oracle Security 101
Oracle Security 101Dahui Feng
 
SQL Server 資料庫版本控管
SQL Server 資料庫版本控管SQL Server 資料庫版本控管
SQL Server 資料庫版本控管Will Huang
 
Software Engineer Talk
Software Engineer TalkSoftware Engineer Talk
Software Engineer TalkLarry Cai
 
基于 lucene 的站内搜索
基于 lucene 的站内搜索基于 lucene 的站内搜索
基于 lucene 的站内搜索fulin tang
 

Similar to Log分析-使用ELK.pdf (20)

使用Samba提升linux平台开发效率
使用Samba提升linux平台开发效率使用Samba提升linux平台开发效率
使用Samba提升linux平台开发效率
 
Linux commands ppt
Linux commands pptLinux commands ppt
Linux commands ppt
 
CKAN 技術介紹 (基礎篇)
CKAN 技術介紹 (基礎篇)CKAN 技術介紹 (基礎篇)
CKAN 技術介紹 (基礎篇)
 
Sth About SSD
Sth About SSDSth About SSD
Sth About SSD
 
优酷 Web网站架构案例分析
优酷   Web网站架构案例分析优酷   Web网站架构案例分析
优酷 Web网站架构案例分析
 
Youku arch qcon2009_beijing
Youku arch qcon2009_beijingYouku arch qcon2009_beijing
Youku arch qcon2009_beijing
 
Key value store
Key value storeKey value store
Key value store
 
Lucene 全文检索实践
Lucene 全文检索实践Lucene 全文检索实践
Lucene 全文检索实践
 
Scrum gathering 2012 shanghai 精益与持续改进分会场演讲话题: 大型企业ci平台建设和实施分享(陈小光)
Scrum gathering 2012 shanghai  精益与持续改进分会场演讲话题: 大型企业ci平台建设和实施分享(陈小光)Scrum gathering 2012 shanghai  精益与持续改进分会场演讲话题: 大型企业ci平台建设和实施分享(陈小光)
Scrum gathering 2012 shanghai 精益与持续改进分会场演讲话题: 大型企业ci平台建设和实施分享(陈小光)
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡
 
使用Nginx轻松实现开源负载均衡——对外版
使用Nginx轻松实现开源负载均衡——对外版使用Nginx轻松实现开源负载均衡——对外版
使用Nginx轻松实现开源负载均衡——对外版
 
使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡使用Nginx轻松实现开源负载均衡
使用Nginx轻松实现开源负载均衡
 
基于Symfony框架下的快速企业级应用开发
基于Symfony框架下的快速企业级应用开发基于Symfony框架下的快速企业级应用开发
基于Symfony框架下的快速企业级应用开发
 
IoT開發平台NodeMCU
IoT開發平台NodeMCUIoT開發平台NodeMCU
IoT開發平台NodeMCU
 
Subversion
SubversionSubversion
Subversion
 
Oracle Security 101
Oracle Security 101Oracle Security 101
Oracle Security 101
 
SQL Server 資料庫版本控管
SQL Server 資料庫版本控管SQL Server 資料庫版本控管
SQL Server 資料庫版本控管
 
Software Engineer Talk
Software Engineer TalkSoftware Engineer Talk
Software Engineer Talk
 
基于 lucene 的站内搜索
基于 lucene 的站内搜索基于 lucene 的站内搜索
基于 lucene 的站内搜索
 

Log分析-使用ELK.pdf