Hey everyone this is sanyam. I am new to open source and was looking for some guidance to make some open source contribution

Добрый вечер. Если не секрет чем закончилась история, что мойра по потребляя 64гб и сняли heapdump) что за тяжёлый триггер оказался?

I can't see the messages in English. Can anyone suggest how to translate in the application?

You could use Google translate, though I don't think it's related to your message.

Sure, so can anyone guide me for first time contribution

Uhmm well, you could try looking at some  good first issues here:

https://github.com/moira-alert/moira/issues?q=is%3Aissue+is%3Aopen+label%3A%22good+first+issue%22
and take a shot at any of them.

@litleleprikon обещал глянуть на неделе как будет время, я пробежался по созданным триггерам - было подозрение на один триггер который  создавал 2000+ отдельных серий, но при его удалении ничего не изменилось в потреблении памяти. остальные триггеры (около 900) используют 1-2 серии, есть штук 20-30 триггеров которые используют от 10 до 30 серий.

Слушай, а давай я тебе скину скрипт, который в редисе посмотрит самые жирные паттерны. Сможешь его на редис натравить и посмотреть какой паттерн содержит большое количество метрик. Ато я все не успеваю посмотреть твои профили. А так может найдем по-быстрому большой триггер.

Вообще еще может быть проблема в триггере у которого очень большой ТТЛ стоит

могу и на поиск таких триггеров скрипт накидать

да, давай было бы отлично

Если не получится найти жирные триггеры-то значит утечка где-то, надо будет профили исследовать

по идее TTL ограничен же storage-schemas.conf
[default]
pattern = .*
retentions = 60s:1d
а в checker.yml
metrics_ttl: 6h

не, там можно ТТЛ поставить огромный в триггере и чекер будет выкачивать огромный массив данных, заменяя недостаюшие данные НаНами

а в том конфиге указывается ТТЛ на хранение этих метрик

кажется тут есть поле для оптимизации )

Не, Жень, через storage-schemas.conf ты мы указываем ретеншены, они никак не влияют на время хранения метрик в базе.

это уже поправлено в мастере, но не в релизе

А про TTL Эмиль понимает большой NODATA-интервал, это нам пару раз мойру ложило

#!/usr/bin/env python

import redis
import json
from tqdm import tqdm
from datetime import datetime
r = redis.Redis(host='localhost', port=6379, db=0)

pattern_ids = r.keys('moira-pattern-metrics:*')
patterns = []
for pid in tqdm(pattern_ids):
    l = r.scard(pid)
    patterns.append({"id": pid, "len": l})


patterns = sorted(patterns, key=lambda x: x["len"])


with open('/tmp/patterns.json', 'w') as f:
    json.dump(patterns, f, indent=2)

Желательно запускать на хосте, где реплика редиса чтоб не нагружать мастер. Нужно еще установить библиотеки pip install redis tqdm