Size: a a a

Сбор и аналитика системных сообщений

2018 September 24

AS

Aleksey Shirokikh in Сбор и аналитика системных сообщений
Shamil Sattarov
Логи и так в JSON'е, но слать не сжатый JSON по сети — чистейшая питушня.
Stunnel +compress
источник

S

Serega in Сбор и аналитика системных сообщений
Shamil Sattarov
Логи и так в JSON'е, но слать не сжатый JSON по сети — чистейшая питушня.
да ну? а запихивать это в еластик не чипухня?
источник

S

Serega in Сбор и аналитика системных сообщений
компрессия при передаче это копейки, по сравнению с нагрузкой на еластик.  Особенно если вы пишите что микросервисов этих мало.
источник

S

Serega in Сбор и аналитика системных сообщений
плюс флюентд к каждому микросервису это тоже такое себе. Память жрет. Хотябы флюентбит при тех же вводных.
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
В любом случае, глупо считать, что отовсюду можно получить JSON, fluentd позволяет использовать одну тулзу повсюду.
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Serega
плюс флюентд к каждому микросервису это тоже такое себе. Память жрет. Хотябы флюентбит при тех же вводных.
Да я вот и склоняюсь к нему
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Он вроде быстрый, на сях написанный. Только плагинов маловатно.
источник

S

Serega in Сбор и аналитика системных сообщений
В кубере флюентбит может вообще все сразу переводить в джсон (если оно нейтивно не умеет). Но стоит ли это хранить еще надо подумать.
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Думаю сделать, чтобы fluentbit паковал и отсылал на "прокси", а тот, в свою очередь, уже будет распаковывать и раскладывать куда надо.
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Типа, как Адель Сачков сделал "app — heka — heka — ElasticSearch"
источник

N

Nklya in Сбор и аналитика системных сообщений
Хека, которая несколько лет задепрекейчена уже
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Именно она.
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Но Яндекс.Деньги собирают логи ей.
источник

N

Nklya in Сбор и аналитика системных сообщений
Там и заббикс есть))
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Не поминай всуе.
источник

PR

Paul Rudnitskiy in Сбор и аналитика системных сообщений
у них там даже оракл был
источник

PR

Paul Rudnitskiy in Сбор и аналитика системных сообщений
вроде убрали
источник

SP

Sergey Pechenko in Сбор и аналитика системных сообщений
fluentd -  шняга на Ruby. нафиг она? есть rsyslog искаропки в нормальных дистрах.
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Serega
В кубере флюентбит может вообще все сразу переводить в джсон (если оно нейтивно не умеет). Но стоит ли это хранить еще надо подумать.
Не пойму, как он это может просто брать и переводить в JSON. Откуда он знает где, какие поля?
источник

SS

Shamil Sattarov in Сбор и аналитика системных сообщений
Sergey Pechenko
fluentd -  шняга на Ruby. нафиг она? есть rsyslog искаропки в нормальных дистрах.
Блин, может и шняга, но работает же! А fluentbit на C. Поэтому и хочу сделать что-то вроде "app — fluentbit — fluent proxy — elastic"
источник