Size: a a a

Церковь метрик

2020 April 19

AV

Aliaksandr Valialkin in Церковь метрик
blkmrkt
Ребят, подскажите чем лучше собирать и визуализировать метрику в 2020? Кодбаза у нас вся на питоне в монорепо, нет никаких микросервисов и докеров. У нас сотни короткоживущих процессов которые спавнятся кроном на разных машинах, в тч и на машинах разрабов и в разных облаках — все машины объединены zerotier vpn. Есть конечно и долгоживущие вебсерверы, есть и БД с которой тоже нужно забирать метрику.

Смотрю в сторону graphite и grafana тк раньше ими пользовался.
Для такого лучше всего подходит схема с пушем метрик в statsd, который, в свою очередь, будет отправлять все в графит или викториюметрикс. Вот тут описано, как записывать данные из statsd в вм - https://github.com/VictoriaMetrics/VictoriaMetrics/blob/master/README.md#how-to-send-data-from-graphite-compatible-agents-such-as-statsd
источник

b

blkmrkt in Церковь метрик
Aliaksandr Valialkin
Для такого лучше всего подходит схема с пушем метрик в statsd, который, в свою очередь, будет отправлять все в графит или викториюметрикс. Вот тут описано, как записывать данные из statsd в вм - https://github.com/VictoriaMetrics/VictoriaMetrics/blob/master/README.md#how-to-send-data-from-graphite-compatible-agents-such-as-statsd
Спасибо! Но наверное я все-таки попробую Clickhouse -- заодно поэкспериментирую с переносом некоторых тяжелых агрегаций из постгреса в него.
источник

VS

Vasilyev Sergey in Церковь метрик
Aleksey Shirokikh
ибо всех солидно задалбал snmp
То вы просто его готовить не умеет (троллфейс.жпг)
источник

AS

Aleksey Shirokikh in Церковь метрик
🙂 это почти никто не умеет делать. В этом и беда
источник

.

.̛̟͇͢͞ in Церковь метрик
так простой протокол же
источник

YC

Yegor Chumakov in Церковь метрик
А какие альтернативы? SNMP все поддерживают.
источник

VS

Vasilyev Sergey in Церковь метрик
Vethopheth Lephanim
вот допустим мне надо метрики elastic'а в пром, хотя "метрики" тут громко сказано... всё что мне надо это cluster status из _cluster/health?pretty ну и мб чёнить из _cat/nodes?v , короче просто для того, чтоб алерты сделать на случай если кластер развалится. Вот как бы вы в этой ситуации сделали: курлом эту одну/две метрики брать и, например, с помощью textfile.collector отправлять в пром, либо брать сразу чёнить типа elasticsearch_exporter?
Вот какую только х..ню люди готовы делать лишь бы не написать 10 строк на питоне 💁‍♂ (prometheus python-client)
источник

VL

Vethopheth Lephanim in Церковь метрик
штоа? При чём тут путон? У меня сейчас это в 4 строки на баше сделано
источник

VS

Vasilyev Sergey in Церковь метрик
Vethopheth Lephanim
штоа? При чём тут путон? У меня сейчас это в 4 строки на баше сделано
И 100500 строк кода  пушгейтвея ;)
источник

VL

Vethopheth Lephanim in Церковь метрик
та нет же, оно сейчас в збх отправляется, вопрос был в том как бы вы сделали для отправки в пром) Бэст практис что ли) Ну я понял, вариант "переписать в путон" тоже принимается)
источник

YC

Yegor Chumakov in Церковь метрик
Vethopheth Lephanim
вот допустим мне надо метрики elastic'а в пром, хотя "метрики" тут громко сказано... всё что мне надо это cluster status из _cluster/health?pretty ну и мб чёнить из _cat/nodes?v , короче просто для того, чтоб алерты сделать на случай если кластер развалится. Вот как бы вы в этой ситуации сделали: курлом эту одну/две метрики брать и, например, с помощью textfile.collector отправлять в пром, либо брать сразу чёнить типа elasticsearch_exporter?
Blackbox exporter
источник

VS

Vasilyev Sergey in Церковь метрик
Vethopheth Lephanim
та нет же, оно сейчас в збх отправляется, вопрос был в том как бы вы сделали для отправки в пром) Бэст практис что ли) Ну я понял, вариант "переписать в путон" тоже принимается)
Ай сии..) Не так вас понял, сорян)
А так-то да, юзайте либы и создавайте экспортеры
источник

S

Solresl in Церковь метрик
Можно писать в файл, а node exporter будет его отдавать.
источник

GM

Gleb Mekhrenin in Церковь метрик
Vethopheth Lephanim
та нет же, оно сейчас в збх отправляется, вопрос был в том как бы вы сделали для отправки в пром) Бэст практис что ли) Ну я понял, вариант "переписать в путон" тоже принимается)
https://github.com/justwatchcom/elasticsearch_exporter я этим долго пользовался
источник

VL

Vethopheth Lephanim in Церковь метрик
я пока тоже в его сторону склоняюсь
источник

VS

Vasilyev Sergey in Церковь метрик
krakazyabra
правильно же мыслю: в под нужно лишь передать новый environment export GOGC=100, который перезапишет тот, что идёт по-дефолту в контейнере?
Вот и настали те времена, когда и это уже вопрос для чатика 😐😕
источник

VL

Vethopheth Lephanim in Церковь метрик
Vethopheth Lephanim
я пока тоже в его сторону склоняюсь
но там наверняка миллиард метрик которые придётся дропать или ограничивать экспортером если возможно, потому что существуют жёсткие ограничения по месту хранилища, политика партии пока такая, что "дропать всё, что явно не нужно"
источник

YC

Yegor Chumakov in Церковь метрик
Vethopheth Lephanim
но там наверняка миллиард метрик которые придётся дропать или ограничивать экспортером если возможно, потому что существуют жёсткие ограничения по месту хранилища, политика партии пока такая, что "дропать всё, что явно не нужно"
Правильная политика
источник

GM

Gleb Mekhrenin in Церковь метрик
Vethopheth Lephanim
но там наверняка миллиард метрик которые придётся дропать или ограничивать экспортером если возможно, потому что существуют жёсткие ограничения по месту хранилища, политика партии пока такая, что "дропать всё, что явно не нужно"
дропать не сложно
источник

GM

Gleb Mekhrenin in Церковь метрик
а у кластера ес много разных проблем может быть
источник