Size: a a a

Сбор и аналитика системных сообщений

2021 May 31

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
поэтому можно начать с relp и посмотреть
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
но у relp раньше было ограничение на 128k по длине сообщения сверху
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
что-то там дальше чинили, но я после того, как прод положил, больше не экспериментировал с этим 🙂
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
очереди надо на всех rsyslog-ах в пути делать
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
разница только в размере
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
и надо ли диск, или хватит в памяти
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
все вышесказанное - мое имхо, основанное на личном опыте
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
ymmw
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
к слову, локальный буфер на юникс-сокете у меня ни разу не кончался на моих нагрузках с прошлой работы
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
только на тестах
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
но у меня были очереди, да
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
rsyslog быстро вычитывал из сокета и клал в очередь
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
а вот с балансировкой печаль
источник

PD

Phil Delgyado in Сбор и аналитика системных сообщений
Не работает надежно, так как если включить логгирование всех входящих запросов (а половина библиотек это позволяет), то сразу все ПДН полетят в логи. Нормальные требования - принципиальная невозможность попадания секретов в логи.
Впрочем, если аудита не будет, то можно не заморачиваться.
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
это tcp, поэтому, пока соединение живо, все будет ехать через один эндпоинт
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
но есть опция, чтобы оно пересоздавалось после N сообщений
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
можно сделать N=1 :trollface:
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
тогда логи в кафку, потом какой-то пакет для анонимизации/деперсонализации, снова в кафку и в хранилище
источник

YB

Yury Bushmelev in Сбор и аналитика системных сообщений
какие-то штуки мне встречались, но названий не вспомню.. то ли гугл, то ли фейсбук открывали что ли
источник

PD

Phil Delgyado in Сбор и аналитика системных сообщений
В кафку нельзя отправлять ПДН (если делать нормально). Нужно резать или до отправки в кафку или вообще внутри.
До отправки легче
источник