Size: a a a

Сбор и аналитика системных сообщений

2021 May 24

D😼

Dan 😼A in Сбор и аналитика системных сообщений
на рсислог завязана работа джава аппа с постоянным обменом данными. Боюсь, что если буду играться сейчас - либо апп встанет (там такие карявые разрабы), либо потеряю часть логов, что не есть гуд.
Попробую под остановку аппа. Предполагаю, что если сделать стоп-старт рсислогу, то всё пойдет с чистого листа. Но по вышеупомянутым - не могу делать так постоянно.

В любом случае спасибо. Если у кого будут еще идеи - предлагайте. Может попытаюсь протащить апдейт рсислога, посмотрим.

Хотя инет кишит просто проблемами упирания рсислога у ulimit. Плюс в доках есть параметр max open files. Так что, думаю, разрабы считают это нормой
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
HUP заставит его переоткрыть файловые дескрипторы. Ничего сломаться не должно. В целом, он раз в сутки это по логротейту должен и так делать (если не оторвали в дистре)
источник
2021 May 26

A

Alexander in Сбор и аналитика системных сообщений
Либа журналды, к сожалению, иногда неоптимально работает с ресурсами (рсислог, насколько я помню, юзает её тупо в лоб). Попробуй обновить systemd до последней доступной в дистре версии.

А по поводу HUP-а — он вполне безопасен, к перезагрузке конфигурации не приводит, просто п этому сигналу рсислог переоткрывает дескрипторы
источник
2021 May 28

NM

Nikita Martovs in Сбор и аналитика системных сообщений
Подскажите, как называется подход, когда все данные считаешь в рилтайме, например Flink streaming, а потом этой же бизнес логикой пересчитываешь исторические данные, если это необходимо. Есть ли литература про это?
источник

ST

Shuro Toko in Сбор и аналитика системных сообщений
Lambda architecture
источник

ST

Shuro Toko in Сбор и аналитика системных сообщений
Хотя если этой же, то скорее kappa
источник

GG

George Gaál in Сбор и аналитика системных сообщений
+
источник

GG

George Gaál in Сбор и аналитика системных сообщений
Лямбда - когда отдельно батчи есть во второй системе
источник

ST

Shuro Toko in Сбор и аналитика системных сообщений
Ага. Я вспомнил как раз после того, как написал
источник

NM

Nikita Martovs in Сбор и аналитика системных сообщений
Спасибо. Пошёл читать.
источник
2021 May 30

TF

Terry Filch in Сбор и аналитика системных сообщений
https://github.com/perforce/p4prometheus

вроде делает то же, что и loki... 😅
источник

SK

S Kirill in Сбор и аналитика системных сообщений
Ребят а кто-то vector на больших нагрузках пользуется??
~200 Keps
Или более
JSON логи
источник

A

Alexander in Сбор и аналитика системных сообщений
Это же просто экспортер метрик по логам perforce-сервера
источник

TF

Terry Filch in Сбор и аналитика системных сообщений
источник

A

Alexander in Сбор и аналитика системных сообщений
Гонял в 2014 рсислогом 80keps, ценой утилизации одного ядра cpu. Потом гигабитный канал кончился :)
Но горизонтально отмасштабировать в 3 раза, думаю, не было бы проблелемой при более широком линке.
источник
2021 May 31

M

MikroTik in Uzbekist... in Сбор и аналитика системных сообщений
Всем привет.
Windows Server 2003
Как найти в событиях (логах) когда и кто поменял адрес на сетевом интерфейсе?
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
это надо в чатике про винду спрашивать
источник

M

MikroTik in Uzbekist... in Сбор и аналитика системных сообщений
Так аналитика же, по логам надо найти кто ручками шалил.
источник

SK

S Kirill in Сбор и аналитика системных сообщений
у нас же тут полно Rsyslog маньяков?

начинаю думать на счёт замены filebeat+logstash
теоретические вопросы есть
возможная схема
nginx_app-> unix_socket -> syslog ->  tls+tcp (internet ) -> syslog -> (logstash ?) -> ES

есть ли у кого подобная схема?
что с балансировкой syslog -> syslog ?
часто ли теряются логи на сокете, когда буфер локальный кончился ?
источник

V

Vovan in Сбор и аналитика системных сообщений
У вас нагрузки какие?
источник