Size: a a a

2021 January 21

АК

Александр Крыжановск... in E.L.K.
я помню, в жизненном цикле индексов можно настроить удаление индексов старше определенного срока.

но вот как работают остальные действия жизненного цикла я не вникну никак

в жизненном цикле индекса инстурментария для сжатия и архивирования индекса не существует?
источник

АК

Александр Крыжановск... in E.L.K.
вообще прошу подсказать методики для длительного хранения индексов при ограниченном пространстве, если это конечно возможно
источник

D

Dmitriy in E.L.K.
привет. сжатие для индексов выполняется регулярно, сильнее сжать не получится. есть механизм rollup job, но применить его можно не везде - общий смысл - отбрасывание части данных, т.е. удаление отдельных полей, которые не понадобятся через пол года а нужны только в моменте, замена метрик усредненными и т.д. есть еще два варианта, но оба подходят только для хранения, теряешь быстрый доступ - выделение холодных нод с медленными, но дешевыми дисками, или снятие снапшотов с последующим их бекапом.
источник

АК

Александр Крыжановск... in E.L.K.
если у меня нет запаса дисков и в среднем хранится 7 индексов по 100 гигов в день - сильнее сжать чем 100 гигов у меня не выйдет, в тмо числе и снапшот будет весить столько же?
источник

D

Dmitriy in E.L.K.
да
источник

АК

Александр Крыжановск... in E.L.K.
спасибо
источник

АК

Александр Крыжановск... in E.L.K.
а если в логстеше просто удалять поля перед вставкой документа - надо поменять маппинг, чтобы не было конфликта?
источник

DM

Dmitry Malinin in E.L.K.
Можно с помощью  http://vector.dev  он замечательно умеет
источник

D

Dmitriy in E.L.K.
конфликта от отсутствующих полей не будет. конфликт будет, если ты в существующее в маппинге поле будешь писать другой тип данных
источник
2021 January 22

MA

M A in E.L.K.
Amazon и Logz объявили о создании форков Elasticsearch https://opennet.ru/54456/
источник
2021 January 27

IT

Igor Teresco in E.L.K.
Всем всего!
источник

IT

Igor Teresco in E.L.K.
Может тривиальный вопрос по ELK, просветите, пожалуйста:
Есть логи приложения, хранящиеся в XML формате, одно строкой, без LF/CR.
Как такое затащить в ELK, если FileBeat не понимает, когда лог файл обновился?
источник

DM

Dmitry Malinin in E.L.K.
fluentd а лучше vector.dev
источник

IT

Igor Teresco in E.L.K.
да, чуть не забыл - на серверах винда
источник

DM

Dmitry Malinin in E.L.K.
ответ тот же :)
источник

DM

Dmitry Malinin in E.L.K.
Эластику в принципе пофигу кто поднес ему логи. Вектор и влюэнт умеют могучее мидлваре, в отором вы можете и  CR/LF фиксить. и конвертировать на лету во что угодно..
источник

DM

Dmitry Malinin in E.L.K.
Стоит просто почитать про них.
источник

IT

Igor Teresco in E.L.K.
про fluentd читал, сейчас про vector гляну - Спасибо!
источник

DM

Dmitry Malinin in E.L.K.
Вектор прям очень к сердцу пришелся. И стилем конфигов и количеством плагинов. Да и по скорости он побыстрее разика в полтора два будет
источник

DM

Dmitry Malinin in E.L.K.
И что замечательно - очень активно развивается.

Там кстати есть пасхалка в описании в разделе оптимизация и тюнинг.
источник