Презентация на тему "Сравнительный анализ существующих решений"

Содержание

• 
  Слайд 1
  

  Мониторинг проектов: сравнительный анализ существующих решений Антон Баранов Системный администратор Linux Партнерская конференция «1С-Битрикс»

• 
  Слайд 2
  

  О себе Антон Баранов Системный администратор Linux. Более 6 лет опыта работы с Linux-системами и web-проектами различной сложности. Последние полтора года тружусь в компании ITSummaнад обеспечением стабильной работы highload-проектов для посетителей со всего мира. |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 3
  

  О нас |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ На поддержке:

• 
  Слайд 4
  

  Разделы Что именно необходимо мониторить в высоконагруженном (и не только) проекте? Обзор существующих open-sourceсистем мониторинга(cacti,zabbix,graphite). Какие существуют SAAS-решения для мониторинга? |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 5
  

  Что нужно мониторить? |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 6
  

  Что нужно мониторить? Потребление ресурсов Работу серверного ПО Бизнес-логика приложения |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 7
  

  Ресурсы Делятся на 2 группы: Критические Важные |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 8
  

  Критические ресурсы Проблемы с ними гарантированно приведут к неработоспособности сервисов. |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 9
  

  Критические ресурсы CPU (idle,user,stalled/LA) Memory (free,used) Disk IO % Traffic In/Out Disk usage space (free,used) |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 10
  

  Важные ресурсы Наблюдение за ними позволяют предсказать возникновение проблем |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 11
  

  Важные ресурсы SWAP RAID status (SW/HW) S.M.A.R.T. status IOPS (read/write) |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 12
  

  Важные ресурсы Disk avio Sockets CPU temperature CPU Fan Speed |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 13
  

  Серверное ПО Самое главное: вы должны четко представлять себе, для чего необходимо мониторить тот или иной параметр. |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 14
  

  Серверное ПО Nginx (RPS, reading/writing/keepalivereqs) PHP-FPM (RPS, кол-воchildren’ов, кол-во «max children reached» Sphinx (кол-во запросов, наличие FatalError) |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 15
  

  Серверное ПО MySQL (кол-возапросовselect,update,insert/rows processed/innodb buffer pool usage/replica status) Exim (размер почтовой очереди) |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 16
  

  Бизнес-логика Все показатели работы проекта, проблемы с которыми являются критичными для бизнеса |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 17
  

  Бизнес-логика Количество новых регистраций Корректность работы процесса регистрации ( от заполнения формы до активации учетной записи) |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 18
  

  Бизнес-логика Количество скачиваний приложения Количество показов баннерной рекламы и кликов по ней |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 19
  

  Бизнес-логика Доступность сервиса компании-партнера, чей контент используется на сайте Статистика по запросам с тем или иным реферером |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 20
  

  Да чему там ломаться? |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 21
  

  Мониторинг мониторинга! Работа подсистемы уведомлений Возможность отправки почты/смс/уведомлений в jabber/slack/hipchat и т.д. |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 22
  

  Обзор существующих open-source систем мониторинга(cacti,zabbix,graphite) |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 23
  

  Zabbix Open-source Server-side: PHP+[MySQL/PostgreSQL/SQLite/Oracle] Client-side: zabbix-agent/SNMP/external checks |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 24
  

  Zabbix Создаем хост в Zabbix Устанавливаем на сервер zabbix-агент |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 25
  

  Zabbix Добавляем шаблоны Импортируем недостающие Настраиваем zabbix-agent Настраиваем web-сценарий для проверки URL |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 26
  

  Zabbix Мониторинг nginx: Импорт шаблона Создание bash-скрипта для парсингаnginx-статуса Прописывание инклуда в конфигzabbix-agent |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 27
  

  Zabbix |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 28
  

  Zabbix Уведомления Шаблон => Триггер => Действие |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 29
  

  Zabbix Выводы: Конфигурирование Zabbix - достаточно сложно Zabbix-сервер масштабируется так же, как и любое другое веб-приложение |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 30
  

  Zabbix Автоматизация мониторинга новых узлов возможна без проблем любыми средствами управления конфигурацией |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 31
  

  Cacti Open-source Server-side: PHP+rrdtool+MySQL Client-side: SNMP |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 32
  

  Cacti Установить на сервер snmpd Сконфигурировать rocommunity в snmpd Добавить хост в Cacti |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 33
  

  Cacti |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 34
  

  Cacti По дефолту мониторинг только основных ресурсов - CPU/Memory/Networketc. Все остальное - плагины |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 35
  

  Cacti Nginx - Percona plugin MySQL - Percona Plugin URL - mURLin plugin Alerts - thold plugin Mail - settings plugin |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 36
  

  Cacti |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 37
  

  Cacti Уведомления только на email через плагин settings (возможно есть и другие плагины) |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 38
  

  Cacti |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 39
  

  Cacti Выводы: Мониторинг либо через snmp (включая custom OID), либо через плагины Кол-во способов уведомления ограничено |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 40
  

  Cacti Выводы: Автоматизация возможна только через cli скрипты Масштабируется как обычное web-приложение |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 41
  

  Graphite Server-side: Carbon Whisper Graphite webapp |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 42
  

  Graphite carbon - a Twisted (an event-driven networking engine written in Python) daemon that listens for time-series data |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 43
  

  Graphite whisper - a simple database library for storing time-series data (similar in design to RRD) graphite webapp- Djangowebapp that renders graphs on-demand using Cairo |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 44
  

  Graphite Client-side: любое ПО, которое сумеет отсылать данные в нужном формате в Graphite (Bucky, collectd, Collectl, Diamond, Ganglia,Logster, Sensu, statsdetc.) |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 45
  

  Graphite Установка collectd. Включение нужных плагинов Конфигурирование плагинов Настройка отправки данных в Graphite |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 46
  

  Graphite Host "127.0.0.1" User "root" Password "sohW2ax0Eenox9t" Database "test1" MasterStats false |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 47
  

  Graphite Мониторинг возможен с помощью чего угодно, что может посылать данные на carbon в нужном формате. |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 48
  

  Graphite |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 49
  

  Graphite Уведомления через graphite-beacon/graphite-pager и т.д. Graphite-beacon: 1) добавить конфигурация нужного типа уведомлений (SMTP, Hipchat, Slack, Pagerduty, HTTP handlers) 2) Добавить условия генерации уведомлений |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 50
  

  Graphite "alerts": [ { "name": "Memory", "query": "aliasByNode(collectd.*.memory.memory-free, 1)", "interval": "1minute", "format": "bytes", "rules": ["warning:

• 
  Слайд 51
  

  Graphite |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 52
  

  Graphite Выводы: Конфигурируется только ПО отсылки данных в graphite. Сложность зависит от ПО. Collectd - прост. Гибкие настройки уведомлений. Автоматизация возможна и не составит труда. |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 53
  

  Graphite Масштабируется горизонтально Движок хранения данных whisper имеет недостатки, проявляющиеся на больших количествах метрик, рекомендуют менять его, если планируется очень много метрик |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 54
  

  Graphite graphite-relay (решение, проксирующее метрики на несколько процессов carbon-cache для распараллеливания нагрузки) - весьма требовательно к CPU, что порой требует отдельного балансера для нескольких relay. |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 55
  

  SAAS-мониторинг:ServerDensity, DataDog HQ |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 56
  

  ServerDensity https://www.serverdensity.io Server-side: black-box Client-side: python-daemon |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 57
  

  ServerDensity Добавляемдевайсв SD Устанавливаемклиентанасервертремякомандами: curl -LO https://www.serverdensity.com/downloads/agent-install.sh chmod +x agent-install.sh ./agent-install.sh -a https://bitrixconf.serverdensity.io -k 454981106adfae9b73cb42991ee05a6c |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 58
  

  ServerDensity Nginx: добавить url к nginx-статусу в /etc/sd-agent/config.cfg MySQL: добавить данные доступа в config.cfg Перезапустить sd-agent Добавить метрики в свойствах девайса в панели SD |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 59
  

  ServerDensity |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 60
  

  ServerDensity |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 61
  

  ServerDensity URL для мониторинга добавляется отдельно, в Services Проверка идет с точек со всего мира (можно выбрать) Алерты создаются автоматически |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 62
  

  ServerDensity |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 63
  

  ServerDensity |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 64
  

  ServerDensity Автоматизация без проблем Наличие API Уведомления через почту/Slack/HipChat/SMS/PagerDuty |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 65
  

  DataDog HQ http://datadoghq.com Server-side: black-box Client-side: python daemon |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 66
  

  DataDog HQ |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 67
  

  DataDog HQ Nginx: Включитьинтеграцию Сделатькопипастув /etc/dd-agent/conf.d/nginx.yaml : init_config: instances: - nginx_status_url: http://194.177.22.245/nginx-status tags: - instance:vm96153.local MySQL добавляетсяаналогично, черезинтеграцию Рестартоватьdd-agent |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 68
  

  DataDog HQ |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 69
  

  DataDog HQ Мониторинг сайта добавляется как http-проверка через /etc/dd-agent/conf.d/http_check.yaml Уведомления настраиваются через панель, в разделе «Monitors» |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 70
  

  DataDog HQ |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 71
  

  DataDog HQ Автоматизация без проблем Наличие API Уведомления через почту/PagerDuty + ручная настройка чего угодно через webhooks |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 72
  

  Мониторинг Так что же выбрать? |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 73
  

  Мониторинг Это зависит от многих факторов. Основные: Количество узлов, которые нужно мониторить Задачи, которые планируется решать |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 74
  

  Спасибо за внимание! Вопросы? |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ

• 
  Слайд 75
  

  Контакты АнтонБаранов https://anton-baranov.me abaranov@itsumma.ru https://www.facebook.com/anton.s.baranov |ПАРТНЕРСКАЯ КОНФЕРЕНЦИЯ