User Tools

Site Tools


Sidebar

intro

Splunk란?

Splunk Archetecture

특성

  • Splunk UI Django기반임.

Splunk 기능 및 용어

Splunk 기능 설명

기능 내역
Search header 최종 단말 성격의 구성요소,검색된 결과 화면을 통합하여 사용자에게 제공
indexer 검색된 결과 화면을 통합하여 사용자에게 제공,검색을 실제 수행하는 구성요소,인덱스를 생성, 관리 및 데이터 인덱싱 (데이터처리) 원시 데이터와 인덱싱된 데이터를 저장 및 검색
Deployment 로컬및분산인스턴스관리
Forwarder 데이터를 수집하는 구성요소

Splunk Search Header

Splunk Indexer 관련 용어 설명

Splunk Indexer 데이터 저장 구조

  • 인덱스 디렉터리 및 파일의 컬렉션 / 위치 : $SPLUNK_HOME/var/lib/splunk
  • 원시 데이터 압축 형 원시 데이터원시 데이터
  • 인덱스 파일 원시 데이터, 일부 메타데이터 파일을 가리키는 인덱스
  • 버킷 인덱스 디렉터리, 에이지(age)를 기준으로 구성
Bucket 단계eventsearchable설명
HotNewyes새로운 인덱스 데이터가 포함/ 쓰기 허용 각 인덱스에는 하나 이상의 hot 버킷이
WarmOldYeshot에서 롤링된 데이터입니다.
ColdEven olderYeswarm에서 롤링된 데이터입니다.
FrozenOldest (delete)Nocold에서 롤링된 데이터 인덱서는 기본적으로 frozen 데이터를 삭제하지만 아카이브할 수도 있습니다. 아카이브된 데이터를 나중에 해제(thawed)할 수 있습니다.
ThawedSame as frozenyes

Types (and flow) : hot → warm → cold → frozen → thawed

  • Hot : most recent data, small tsidx files, auto splunk-optimize, searchable
  • Warm : older than hot, searchable, bloom filter
  • Cold : older than warm, searchable, bloom filter (or replicated data, not necessary searchable)
  • Frozen : not searchable, deleted by default (can set “coldToFrozenScript” and/or “coldToFrozenDir” to archive the data)
  • Thawed : from frozen (archived), searchable

Splunk Indexer 데이터 저장 구조

Splunk Forwarder 설명

역할,데이터수집및전달 전송 유형

  • 원시데이터
  • 필터링 되지 않은 데이터
  • 필터링 된 데이터

Heavy Forwarder

  • 원시 데이터 전송
  • 필터링 되지 않은 데이터
  • 필터링된데이터전송

Universal Forwarder

(데이터 전달하는 데 필요한 구성 요소만 포함됨)

  • CPU에 대한 부하가 적음
  • 메모리를 사용이 적음
  • 디스크 공간 사용이 작음
  • 기본 데이터 전송률은 256Kbps
  • 데이터필터링및수정불가
  • Heavy Forwarder 같이 Python 번들 버전 없음
  • Heavy Forwarder 인스턴스로 변환할 수 없음

Splunk Forwarder 종류

Load balancing Forwarder

  • Indexer로 분산 저장 시 사용(필수는 아님)
  • Indexer와 Forwarder의 수평확장을 용이하게 함
  • 데이터의 분산배포는 Forwarder의 인터벌 타임의 조작을 통해 주기의 조절이 가능함

Splunk Metadata

Metadata (Indexing 시 생성되는 필드)

Splunk는 인덱싱 과정에서 각 이벤트에 대해 host, source 및 sourcetype을 포함한 기본 필드를 추출함

필드유형필드 리스트설명
내부필드_raw, _time, _index, _keySplunk 이벤트에 대한 일반적인 정보를 포함하는 필드
주요 metadata(모든 이벤트에 공통으로 해당됨) host, index, linecount, punct, source, sourcetype, splunk_server, timestamp • 이필드는인덱싱되고필드메뉴에기본적으로추가됨 • 이벤트가 시작된 장소• 이벤트가 위치해 있는 인덱스• 이벤트의 유형• 이벤트에포함된줄수• 이벤트가 발생한 시간에 대한 정보가 포함된 필드
시간필드date_hour, date_mday, date_minute, date_month, date_second, date_wday, date_year, date_zone• 타임스탬프에 더 세부적으로 추가된 정보 필드 • date_* 필드는 각 시스템에서 생성된 타임스탬프 정보가 있는 이벤트만 생성 됨

Metadata

index
  • 데이터가 인덱싱 된 인덱스(DB)의 이름이 표시된 필드
  • 모든 이벤트는 기본적으로 main 인덱스(index=“main”)에서 인덱싱 됨
  • 검색 예) “index=mosbootcamp*” (와일드카드를 사용 가능)
host
  • 네트워크장치의호스트이름혹은IP주소가표시된필드
  • 검색 예) “host=mos*” (와일드카드를 사용 가능)
source
  • 이벤트가시작된파일,스트림또는기타입력의이름이표시된필드
  • 데이터생성명령의결과를필터링하기위해사용하거나데이터처리명령의인수로사용가능 * 검색 예) “source=mossplunk*” (와일드카드를 사용 가능)
sourcetype
  • 이벤트가 시작된 데이터 입력 형식이 지정된 필드
  • 검색 예) “sourcetype=access*” (와일드카드를 사용 가능)
_time
  • Unix Time의 이벤트의 타임스탬프를 표시한 필드
  • Splunk Web에 이벤트 시간 표시줄 생성
linecount
  • 이벤트가인덱싱되기전에이벤트의라인의수가표시된필드
  • 특정 수의 줄과 일치하는 이벤트를 검색하기 위해 사용하거나 데이터 처리 명령에서 인수로 사용

Splunk 설치

intro.txt · Last modified: 2015/03/29 16:56 by 175.123.204.224