Splunk를 적용하기 위해서 살펴본 결과를 공유 합니다.
본 내용은 제가 하루 정도 Splunk를 써본 결과이며 매우 얕게 살펴보았기 때문에 아무런 수치적 Background를 가지지 못합니다.
하지만 저는 BigData에 Splunk를 쓰는 것은 하지 않으려 합니다.
자세히 알고 계신분들의 코멘트는 언제나 감사하게 듣고 있습니다.
어느 해커쏜에 참여한 백엔드 개발자들을 위한 교육자료
쉽게 만든다고 했는데도, 많이 어려웠나봅니다.
제 욕심이 과했던 것 같아요. 담번엔 좀 더 쉽게 !
- 독자 : 백엔드 개발자를 희망하는 사람 (취준생, 이직 희망자), 5년차 이하
- 주요 내용 : 백엔드 개발을 할 때 일어나는 일들(개발팀의 일)
- 비상업적 목적으로 인용은 가능합니다. (출처 명기 필수)
[ http://infiniflux.com/download ]
The world's fastest time series DBMS.
What is InfiniFlux?
1) InfiniFlux is a time-series database which performs real-time data processing, i.e., data are inserted at high speed, retrieved and analyzed without elapsed time.
2) InfiniFlux also compresses and stores data in real-time. Its query language and syntax complies with the SQL standard. The extended SQL syntax provides additional features such as the text search tool.
어느 해커쏜에 참여한 백엔드 개발자들을 위한 교육자료
쉽게 만든다고 했는데도, 많이 어려웠나봅니다.
제 욕심이 과했던 것 같아요. 담번엔 좀 더 쉽게 !
- 독자 : 백엔드 개발자를 희망하는 사람 (취준생, 이직 희망자), 5년차 이하
- 주요 내용 : 백엔드 개발을 할 때 일어나는 일들(개발팀의 일)
- 비상업적 목적으로 인용은 가능합니다. (출처 명기 필수)
[ http://infiniflux.com/download ]
The world's fastest time series DBMS.
What is InfiniFlux?
1) InfiniFlux is a time-series database which performs real-time data processing, i.e., data are inserted at high speed, retrieved and analyzed without elapsed time.
2) InfiniFlux also compresses and stores data in real-time. Its query language and syntax complies with the SQL standard. The extended SQL syntax provides additional features such as the text search tool.
[Uws] enterprise application architecture, msa, java9, spring 소개HYUN-JOO LEE
회사 교육용으로 만든 자료입니다. 엔터프라이즈 어플리케이션 아키텍처의 개념부터 시작하여 마이크로서비스 아키텍처와 기존 모놀리식 아키텍처 비교하고 왜 우리가 자바9에 집중해야 하는지 설명하려고 만든 자료입니다. 현재 회사에서 진행하고 있는 클라우드 어플리케이션 통합/아키텍처링 사업과 PoC 플랫폼 개발을 위한 회사 내부 교육용으로 만들었습니다. MSA 부분은 IBM Blumix 밋업 자료에서 발췌했습니다. 잘못된 부분이나 다른 의견이 있으신 분 댓글이나 메세지 주세요. hjlee@uws.co.kr
1. Splunk 적용 검토
솔루션 2 팀 신대용 대리
2013. 1. 7
DigiCAP Co., Ltd. www.digicaps.com
DMC R&D Center 8thF, Sangam-dong 1649, Mapo-gu, Seoul, Korea
2. Splunk 소개
• 로그 수집 및 로그 기반 통계 전문 솔루션
• 간단한 ETL 및 자동으로 내용에 대한 Index 생성
• 통계 데이터 산출 등 다른 로직에서 사용 할 수 있도록 자체 쿼리를 제공함
• 외부 연동 대부분이 GUI 로 가능 , 매우 높은 완성도를 가짐
• 쿼리 결과를 토대로 그래프를 그리고 Dash Board 로 배치
• 가격
– Perpetual license: this includes the full functionality of Splunk Enterprise
and starts as low as $5,000 in the U.S., plus annual support fees.
– Term license: this provides the option of paying a yearly fee instead of the
one-time perpetual license fee. Term licenses start at $2,000 per year in the
U.S., and this includes annual support fees.
*www.splunk.com
3. 프로세스 흐름
• 검색엔진과 유사한 형태로 이를 통해 자료를 쉽게 이용한다 .
• 컬럼형태의 데이터를 내제 혹은 별도 개발한 로직을 통해서 Viewing 하며
이를 다시 Hadoop 등에 저장하는 것도 가능
4. 예상 단점
• 데이터 별도 저장 및 관리 포인트 확대
• 자료 증가에 따른 처리시간의 지수 증가
• Splunk 자체의 교육 필요
• 비용
• Splunk 로의 데이터 유입 속도
5. 정리
• Splunk 는 모든 로그에 대해서 검색엔진처럼 인덱스를 생성할 수 있다 .
• 데이터에 독자 쿼리를 통해 시각적인 뷰는 할 수 있지만 자체적으로 데이터
해석 능력은 없다 .
• 데이터 증가에 따라 비용이 증가한다 .
• BigData 에서는 크기가 작은 최종 결과에 대한 View 에 적합하다 .