Size: a a a

2019 December 16

D

Dmitriy in E.L.K.
Dmitry
в противном случае у нас рискует быть пайплайн на 500 строк, у нас он уже на 170) кошмар инженера ELK
ну не знаю... у меня сейчас есть пайплайн на 250+ строк, в один воркер. проблем с производительностью не заметно, но там поток не большой, ~1к/с
источник

D

Dmitry in E.L.K.
я больше беспокоюсь о том как всё обслуживать это и дописывать дополнительную фильтрацию если надо распарсить логи отдельного продукта (типа nginx)
источник

D

Dmitriy in E.L.K.
аккуратно выделяя в блоки и обвешивая тегами) тогда все легко читается-ищется
источник

D

Dmitry in E.L.K.
так и живем
источник

D

Dmitry in E.L.K.
Николай
на Ingest ноде
а это будет работать на бесплатной лицензии? потому что на индексах у меня стоит default_pipeline: none, хотя все логи обрабатываются
источник

D

Dmitriy in E.L.K.
Dmitry
а это будет работать на бесплатной лицензии? потому что на индексах у меня стоит default_pipeline: none, хотя все логи обрабатываются
будет. пайплайны на эластике - это урезанный функционал, призванный заменить логстеш в простых случаях - парсинг, несложные преобразования/обогащения, и т.д.
источник

D

Dmitry in E.L.K.
спасибо
источник

D

Dmitry in E.L.K.
Николай
сам не пробовал. но по докам, в аутпуте еластиксерч. указываешь пайплайн который нужен
тогда это мне не подойдет
источник

АБ

Алексей Быстрый in E.L.K.
Привет. Пишем в эластик. Очень много.
Запись в эластик около 1.5с
Нагрузка на CPU 25%.
Как его, блин, затюнить чтобы быстрее было?
источник

MP

Mike Pulman in E.L.K.
Алексей Быстрый
Привет. Пишем в эластик. Очень много.
Запись в эластик около 1.5с
Нагрузка на CPU 25%.
Как его, блин, затюнить чтобы быстрее было?
просьба детализировать что имеешь ввиду под "Запись в эластик около 1.5с" и  "Пишем в эластик. Очень много"
источник

АБ

Алексей Быстрый in E.L.K.
Mike Pulman
просьба детализировать что имеешь ввиду под "Запись в эластик около 1.5с" и  "Пишем в эластик. Очень много"
Аппликейшн получает респонс о успешной записи через 1.5с
источник

MP

Mike Pulman in E.L.K.
Алексей Быстрый
Аппликейшн получает респонс о успешной записи через 1.5с
То есть ваша самодельная апликуха сама шлет данные в эластик ?
источник

АБ

Алексей Быстрый in E.L.K.
Mike Pulman
То есть ваша самодельная апликуха сама шлет данные в эластик ?
да
источник

MP

Mike Pulman in E.L.K.
Можно строку лога из которой видно что 1.5с респонс ну и чтобы атм было видно что за запрос в эластик отправляется
источник

АБ

Алексей Быстрый in E.L.K.
Mike Pulman
Можно строку лога из которой видно что 1.5с респонс ну и чтобы атм было видно что за запрос в эластик отправляется
это я смотрю по метрикам из аппликейшена. Но я им доверяю. Остальные метрики тоже коррелируют.
источник

АБ

Алексей Быстрый in E.L.K.
Там в эластик уходит 1мб данных около
источник

D

Dmitriy in E.L.K.
Алексей Быстрый
Там в эластик уходит 1мб данных около
это одна строка? тогда нормально
источник

АБ

Алексей Быстрый in E.L.K.
Dmitriy
это одна строка? тогда нормально
ну мы балком пишем. По 10.
Балк выходит 10мб
источник

D

Dmitriy in E.L.K.
тогда респонс в 1.5с - вполне адекватен. повышать - толтко за счет многопоточной отправки
источник

АБ

Алексей Быстрый in E.L.K.
Dmitriy
тогда респонс в 1.5с - вполне адекватен. повышать - толтко за счет многопоточной отправки
Многопоточности самого приложения?
источник