Size: a a a

Церковь метрик

2020 April 07

BG

Bogdan (SirEdvin) Gladyshev in Церковь метрик
Vasilyev Sergey
Ребзя, всем привет!
Есть кастомный экспортер для приложения.
Есть динамические сущности, метрики которых этот экспортер забирает и публикует всем жедающим по урле /metrisc
Иногда, сущностей становится меньше, но их последняя метрика все равно публикуется. Как правильно подчищать публикуемые метрики?
(Экспортер на python)
Есть такой грязный хак: https://gitlab.com/SirEdvin/docker-prometheus-exporter/-/blob/master/app.py#L79

Но это было для старого client_python, а так нужно будет лезть во внутрь
источник

BG

Bogdan (SirEdvin) Gladyshev in Церковь метрик
Хотя вроде уже есть метод remove: https://github.com/prometheus/client_python/blob/master/prometheus_client/metrics.py#L178 , думаю, должен помочь
источник

VS

Vasilyev Sergey in Церковь метрик
Спасибо, сейчас проверю
источник

VS

Vasilyev Sergey in Церковь метрик
Богдан, спасибо Вам огромное!
это то, что нужно
источник

W

We Are Ice Under Major Feet in Церковь метрик
Vasilyev Sergey
Богдан, спасибо Вам огромное!
это то, что нужно
Незачто
источник
2020 April 08

DK

Dmitry K. in Церковь метрик
Привет! Меня в гугле не забанили, но я бы хотел спросить у живых людей что они думают/есть ли опыт использования эластика для prometheus long-term storage? У меня в компании кто-то делает PoC и мне эта идея не нравится, но я с Elasticsearch не работал, опять же — могу быть не прав.. 🙂 Имхо можно VM развернуть и ок.
источник

GM

Gleb Mekhrenin in Церковь метрик
это скорее вопрос какая задача стоит - попрактиковаться в написании софта или метрики долго хранить ггг
источник

SC

Smoked Cheese in Церковь метрик
Dmitry K.
Привет! Меня в гугле не забанили, но я бы хотел спросить у живых людей что они думают/есть ли опыт использования эластика для prometheus long-term storage? У меня в компании кто-то делает PoC и мне эта идея не нравится, но я с Elasticsearch не работал, опять же — могу быть не прав.. 🙂 Имхо можно VM развернуть и ок.
Мне кажется что эластик это худший лонг-терм сторадж из всех вариантов. Как минимум потребление диска взлетит сильно дофига.
источник

DK

Dmitry K. in Церковь метрик
Хуже полагаю может быть только cloudwatch 🙂 Мне очень не нравится эта идея, но у меня нет времени разбираться почему 😄 Я полагаю, что он будет плохо работать в случае высокой кардинальности (что у нас точно будет), что компрессия там будет плохо работать (потому что это в первую очередь инструмент для индексации текста, и очень много можно сделать для оптимизации цифровых значений). С другой стороны есть clickhouse, который в метрики умеет. По-этому сомневаюсь.
источник

GM

Gleb Mekhrenin in Церковь метрик
чуваки из эластика как раз заверяют в своей рекламе что если у тебя кардинальность высокая то просто нафигач побольше нод
источник

GM

Gleb Mekhrenin in Церковь метрик
ща вспомню где читал, найду и скину
источник

GM

Gleb Mekhrenin in Церковь метрик
источник

GM

Gleb Mekhrenin in Церковь метрик
вопрос все же в требованиях изначальных к стораджу
источник

VS

Vladimir Smirnov in Церковь метрик
Dmitry K.
Хуже полагаю может быть только cloudwatch 🙂 Мне очень не нравится эта идея, но у меня нет времени разбираться почему 😄 Я полагаю, что он будет плохо работать в случае высокой кардинальности (что у нас точно будет), что компрессия там будет плохо работать (потому что это в первую очередь инструмент для индексации текста, и очень много можно сделать для оптимизации цифровых значений). С другой стороны есть clickhouse, который в метрики умеет. По-этому сомневаюсь.
исходя из их же собственных статей - будет жрать дофига места, собственно на чтение будет достаточно медленным, помоему проще провести небольшое нагрузочное тестирование и посмотреть когда он развалится
источник

DK

Dmitry K. in Церковь метрик
Ага, спасибо, почитаю это. Просто если кто-то в компании будет пушить эластик — я буду сопротивляться. Хочется иметь лучшие аргументы против, но нет много времени изучить проблему. :( Сейчас вообще метрики пишутся в логи, отправляются в сумолоджик и там агрегируются. Какого хера вообще — кто это придумал))
источник

DK

Dmitry K. in Церковь метрик
Спасибо большое за ответы! Если что придётся самому разбираться. 🙂 Мне лично VM очень нравится, на своих проектах ими пользуюсь.
источник

JB

Jason Barnett in Церковь метрик
I know this doesn't relate to this post, but I have to give to  Mr David who made it possible for me to be earning $7,000 by investing $1000  in just 3 working days thanks a lot  Mr David   I’m so grateful.
Contact her  to get started. You can reach him on here
👇
Follow his channel via
https://t.me/joinchat/AAAAAEvxUO0CTwrdCm0IYg
источник

W

Womchik in Церковь метрик
источник

AT

Alex Tkachenko in Церковь метрик
Всем привет. Хотел спросить по fluentd. Написал длинный файл по фильтрации и отправки логов. Только вот незадача.
Что сделал:
1. логи с nginx в clickhouse через sh script по type exec.
2. Определенные имена контейнеров также через exec.
3. Все остальное в elasticsearch с авторизацией.
Вопрос, я бы хотел дополнительно отправлять одновременно и exec и copy в elasticsearch. Как только не извращался. Либо туда либо туда. Одновременно можно если оба правила copy или exec.
Как быть: Может что пропустил. В документации одновременная отправка есть но только для type copy.
источник

W

Womchik in Церковь метрик
Alex Tkachenko
Всем привет. Хотел спросить по fluentd. Написал длинный файл по фильтрации и отправки логов. Только вот незадача.
Что сделал:
1. логи с nginx в clickhouse через sh script по type exec.
2. Определенные имена контейнеров также через exec.
3. Все остальное в elasticsearch с авторизацией.
Вопрос, я бы хотел дополнительно отправлять одновременно и exec и copy в elasticsearch. Как только не извращался. Либо туда либо туда. Одновременно можно если оба правила copy или exec.
Как быть: Может что пропустил. В документации одновременная отправка есть но только для type copy.
возможно лучше сюда @ru_logs
источник