Size: a a a

Церковь метрик

2020 February 12

SY

Serge Yuriev in Церковь метрик
Aliaksandr Valialkin
quantile - это агрегирующая функция вроде sum, count, max, min и т.п. Она учитывает только "мгновенные" значения по рядам в каждой возвращаемой точке. Она не учитывает все точки в рядах, а также не учитывает значения в окне, указаемом в квадратных скобках функций вроде *_over_time. Поэтому, вполне вероятно, что вы получаете не совсем тот результат, что ожидаете.
(кажется) именно такие мгновенные значения я и хочу.
Сравнить текущий момент с аналогичным в истории.
Ещё бы тренды научиться выводить - слаб я в статистике :(
источник

DZ

Denys 💛📈 💫 Zhdanov in Церковь метрик
vladimir kolobaev
Расскажи пожалуйста, как ты мучался с репликацией в КХ если она организуется за пол часа при первом подходе к снаряду, и работает так, что тебе вообще не приходится про нее вспоминать.
У нас 20Тб данных под репликацией + шардированием средствами КХ, мы никаких проблем не наблюдали.
Зато я могу сказать что плавное обновление инстансов без даун тайма, благодаря все той же репликации, и балансировки запросов, очень отлично себя показывают на протяжении последних 2 лет
А как же тогда https://t.me/metrics_ru/132078 ?
Где правда? :)
источник

DZ

Denys 💛📈 💫 Zhdanov in Церковь метрик
Serge Yuriev
(кажется) именно такие мгновенные значения я и хочу.
Сравнить текущий момент с аналогичным в истории.
Ещё бы тренды научиться выводить - слаб я в статистике :(
источник

DZ

Denys 💛📈 💫 Zhdanov in Церковь метрик
Требует нескольких часов вдумчивой проработки, но оно того стоит
источник

vk

vladimir kolobaev in Церковь метрик
Как обычно она где то по середине, так как у всех разное железо и различный паттерн нагрузки. У нас 15 миллионов метрик в минуту на запись и никаких проблем с репликацией
источник

AV

Aliaksandr Valialkin in Церковь метрик
Serge Yuriev
(кажется) именно такие мгновенные значения я и хочу.
Сравнить текущий момент с аналогичным в истории.
Ещё бы тренды научиться выводить - слаб я в статистике :(
Для анализа трендов хорошо подходит оператор offset. Например, metric offset 1d вернет данные для metric за предыдущий день, но таймстемпы у них будут за текущий день. Это позволяет сравнивать их с текущими данными. Например, график по metric > (metric offset 1d) покажет моменты времени, когда значения metric за текущее время превышали значения сутки назад
источник

S

Sergei F. in Церковь метрик
vladimir kolobaev
Я это к тому что там народ вкладывается в объединении компонентов, а у нас всё внимание вокруг баз сосредоточено, а не в развитии комплексных интерфейсов. Что примечательно, что вот эти чудо саас-конторы, в конечном счёте берут лучшее из мира опенсорса, накручивают над этим морду и продают за дохреналиард бабла :)
а клиенты как им шлют данные? это же надо на хост клиенту вкатить целый зоопарк - всякие биты, векторы-шмекторы
источник

vk

vladimir kolobaev in Церковь метрик
Sergei F.
а клиенты как им шлют данные? это же надо на хост клиенту вкатить целый зоопарк - всякие биты, векторы-шмекторы
Вот этот чудо агент и есть этот мега комбайн
источник

S

Sergei F. in Церковь метрик
воот ) а это уже не лего из опенсорса
источник

vk

vladimir kolobaev in Церковь метрик
А там и статсд сервер внутри есть, так что бизнес метрики отправляют прямо в него
источник

AV

Aliaksandr Valialkin in Церковь метрик
vladimir kolobaev
Как обычно она где то по середине, так как у всех разное железо и различный паттерн нагрузки. У нас 15 миллионов метрик в минуту на запись и никаких проблем с репликацией
У нас в кх кластер на gcp дисках постоянно  записывалось от 2 до 3 миллиона строк в секунду с 50 полями в каждой строке. Проблем тоже не было. Думаю, потому что не было репликации  на зукипере :)
источник

vk

vladimir kolobaev in Церковь метрик
Aliaksandr Valialkin
У нас в кх кластер на gcp дисках постоянно  записывалось от 2 до 3 миллиона строк в секунду с 50 полями в каждой строке. Проблем тоже не было. Думаю, потому что не было репликации  на зукипере :)
У нас есть кластер с логами от nginx, на 70тб. Там по 1млн строк влетает, в шард, с репликацией, и проблем тоже нет. На том кластере HDD в 6 рейде. Все работает норм, правда данные становятся доступны секунд через 20 только
источник

W

Warrax in Церковь метрик
vladimir kolobaev
Расскажи пожалуйста, как ты мучался с репликацией в КХ если она организуется за пол часа при первом подходе к снаряду, и работает так, что тебе вообще не приходится про нее вспоминать.
У нас 20Тб данных под репликацией + шардированием средствами КХ, мы никаких проблем не наблюдали.
Зато я могу сказать что плавное обновление инстансов без даун тайма, благодаря все той же репликации, и балансировки запросов, очень отлично себя показывают на протяжении последних 2 лет
через зукипер?
источник

vk

vladimir kolobaev in Церковь метрик
Warrax
через зукипер?
Да
источник

vk

vladimir kolobaev in Церковь метрик
В кластере с метрикам все на ssd и зукиперы в том числе. Проблем с производительностью мы не наблюдаем
источник

IM

Ivan Moiseev in Церковь метрик
vladimir kolobaev
Расскажи пожалуйста, как ты мучался с репликацией в КХ если она организуется за пол часа при первом подходе к снаряду, и работает так, что тебе вообще не приходится про нее вспоминать.
У нас 20Тб данных под репликацией + шардированием средствами КХ, мы никаких проблем не наблюдали.
Зато я могу сказать что плавное обновление инстансов без даун тайма, благодаря все той же репликации, и балансировки запросов, очень отлично себя показывают на протяжении последних 2 лет
> Расскажи пожалуйста, как ты мучался с репликацией
Думается, что вопросы были к кластеру ZK, нежели к КХ
источник

AS

Aleksey Shirokikh in Церковь метрик
Vladimir Smirnov
то есть минута-две недоступности пока все бутается и стартует + потеря всего что не засинкано
Как понять засинкано или нет из вируалки?
источник

VS

Vladimir Smirnov in Церковь метрик
Aleksey Shirokikh
Как понять засинкано или нет из вируалки?
Надежда на синк!
источник

AS

Aleksey Shirokikh in Церковь метрик
Vladimir Smirnov
Надежда на синк!
Я слышал hope is not an option. Говорят в одной крупной компании это лозунг. Даже в книжках пишут
источник

vk

vladimir kolobaev in Церковь метрик
Ivan Moiseev
> Расскажи пожалуйста, как ты мучался с репликацией
Думается, что вопросы были к кластеру ZK, нежели к КХ
Может ребята испытывают джава-фобию и сделали репликацию через rsync, такое вполне возможно реализовать, если упороться.
источник