[오픈소스컨설팅]openstack_monitoring_session

Openstack monitoring
오픈소스컨설팅
2018.03.12
클라우드팀 윤찬열

Contents
1. Openstack monitoring 목적
2. Openstack Monitoring Architecture
3. ELASTIC stack
4. Zabbix
5. Grafana
6. DEMO

- Internal Use Only -
Horizon dashboard
 간단한 사용량 조회만 가능
 자세한 성능 조회 불가능
 자세한 로그 분석 불가능
 Alerting 불가능

The USE Method
 utilization: the average time that the resource was busy servicing work
 saturation: the degree to which the resource has extra work which it can't service,
often queued
 errors: the count of error events
Ref : http://www.brendangregg.com/usemethod.html

The USE Method
 utilization: the average time that the resource was busy servicing work
 얼마나 사용 했는가?(metric)
 saturation: the degree to which the resource has extra work which it can't service,
often queued
 부하가 얼마나 있는지 ? (metric)
 errors: the count of error events
 어떠한 에러가 있는지? (log)
Ref : http://www.brendangregg.com/usemethod.html

metric
 수치 정보
 리소스 모니터링
 어플리케이션 모니터링
Ex) Nagios, cacti, zabbix 등
log
 행단위로 구분 되는 데이터
 비정형 데이터
 시스템 로그
 어플리케이션 로그
Ex) Rsyslog, graylog, elastic stack 등

RDBMS
(postgresql,mariadb)
Zabbix serverZabbix agent
Log, metric
User
agent node
Zabbix를 이용한 metric log 모니터링
 Log,metric store,trigger
 Log에대한 가시화 미지원

RDBMS
metric
User
agent node
Elastic stack을 이용한 log 모니터링
 Log에대한 가시화 지원
 2개의 dashboard 를 이용하는데불편함
Elasticsearch
Filebeat Logstash
log
Kibana

RDBMS
metric
User
agent node
Grafana를 이용한 통합 dashboard
 Log,metric 정보 및 trigger 정보 통합 관리
Elasticsearch
Filebeat Logstash
log
Kibana
Grafana

Openstack monitoring(optionally)
Kibana
Elasticsearch
Grafana
Zabbix server
Zabbix agent
Filebeat Logstash
log
metric
User
agent node
Zabbix proxy
Redis
(Or kafka)
RDBMS
대용량 수집시 문제점
 장애/비장애서 발생 되는 수많은 데이터를
효율적으로 store 하기 위해
redis, zabbix proxy를 통한 buffer 역할

Kibana
Elasticsearch
beat
Logstash
분산형 RESTful 검색 및 분석 엔진
Easticsearch 데이터를 시각화
데이터 집계, 변환 및 Stash(보관)
특정 목적을 위한 데이터 수집기용 플랫폼
(로그파일,메트릭, 네트워크 패킷, 윈도우 로그 , Audit 등)
Alerting, X-Pack Monitoring , Reporting ,Machine LearningX-pack(유료)
Elastic stack

Functionality Elastic Alternatives
Security X-Pack Security Sematext Cloud,SearchGuard, nginx
Alerting X-Pack Alerting Elastalert, Logagent
Reporting Skedler, Sentinl,
Machine Learning X-Pack Machine Learning Knowi
Ref: https://sematext.com/blog/x-pack-alternatives/
X-Pack Alternatives
 X-pack 라이센스 문제로 대체 할 수 있는 오픈소스들이 제공 되고 있음

X-Pack Alternatives
X-Pack 기능이 배포본에 기본 번들로 제공
모든 무료(basic) 기능은 기본적으로 포함 (2018년 3월 기준 6.2.2 Release)
https://www.elastic.co/blog/doubling-down-on-open

Filebeat
 정형화 되어 있지않는 로그를 logstash 로 전달만 하는 역할
 Type을 추가 하여 output target 에서 해당 log를 구분
 Filebeat 설정

logstash
 반정형 데이터를 받은 logstash가 grok filter로 파싱후
데이터를 각각 필드로 저장

GROK pettern
 Unstructured 된 로그 데이터를 structured하여 쿼리 가능한 형태로 변환
 ships with 120+ petterns
 Grok pettern 을 이용하여 Grok Debugger로 직접 구성 가능

Kibana
 각각의 필드를 이용하여 Kibana 데이터를 가시화

Elastalert(X-Pack Alternatives)
 ElastAlert 으로 특정 이벤트 noti 가능
Ref : https://github.com/Yelp/elastalert

zabbix
 Classic monitoring system
 Server,proxy,agent
 서버 모니터링에 필요한 Metric 정보 수집 해당
metric 기준으로 trigger 설정 및 Noti Action
설정을 통한 추가적이고 반복적인 작업 제공
Zabbix frontend

Zabbix Item
 모니터링할 Metric을 item으로 미리 지정 하여 ,특정 갱신 간격 마다 metric정보 요청
(active, passive 모드 선택가능)

Zabbix trigger
 간단한 형식으로 트리거 설정 후 다양한 미디어 타입을 이용 하여 noti
혹은 추가 action 설정을 통하여 자동화 가능
(ex, web page 접속 불가 -> 트리거 감지 -> 서비스 재시작 )

Supported Data Sources
Elasticsearch
CloudWatch
InfluxDB
OpenTSDB
Prometheus
MySQL
Postgres
Zabbix
Grafana
 다양한 형태의 데이터(log,metirc,시계열 데이터 등)을 가시화

Grafana
Grafana (ES data)
 lucene query 를 이용하여 import 시킨 ES 데이터를 가시화

Grafana (zabbix data)
 Zabbix metric 정보를 query 형태로 가시화

Grafana alerting
 다양한 형태의 data 를 임계치 설정 가능 (ES.zabbix data 지원 예정)

Zabbix vulnerable point
 모니터링 metric을 rdbms 를 통하여 Read/write
 dbms 는 read 를 목적으로 만들어진것에 비하여 모니터링은 write가 대부분
https://www.slideshare.net/WhaTapIO/ss-77983778?ref=http://tech.whatap.io/2017/07/19/cloudmonitoring_performance/
Zabbix 공식 지원 database
 Oracle
 Postgresql
 Mysql
 db2

Zabbix Elasticsearch as history storage(to be)
 zabbix metric을 Elasticsearch 에 store

Kibana
Elasticsearch
Grafana
Zabbix server
Zabbix agent
Filebeat Logstash
log
metric
User
agent node
Zabbix proxy
redis
RDBMS
store metric
Zabbix Elasticsearch as history storage(to be)

Kibana
Elasticsearch
Grafana
Zabbix server
Zabbix agent
Filebeat Logstash
log
metric
User
agent node
Zabbix proxy
redis
RDBMS
Openstack Monitoring Architecture
Dashboard
monitoring
metric
noti
log
noti

DEMO
Ceph osd down 에따른 grafana , trigger작동

DEMO
Error log 발생에 따른 grafana 와 elastalert

[오픈소스컨설팅]openstack_monitoring_session

More Related Content

What's hot (20)

Similar to [오픈소스컨설팅]openstack_monitoring_session (20)

[오픈소스컨설팅]openstack_monitoring_session

Editor's Notes