Size: a a a

2021 January 29

RZ

Rafa Zubrabubra in Data Engineers
Старый Хрыч
переезд будет осенью, а ошибки хочется сейчас видеть в графане
Я когда то настраивал  https://spark.apache.org/docs/1.0.2/monitoring.html, но это было давно; скидывал в графит вроде и дальше кидал... но сейчас уже деталей не помню
источник

СХ

Старый Хрыч... in Data Engineers
спасибо, тут такое всё пока древнее....
источник

ПФ

Паша Финкельштейн... in Data Engineers
Чатик, что порекомендуете для тестирования пайплайнов? Хочу тестировать шире чем Спарк.
источник

СХ

Старый Хрыч... in Data Engineers
Паша Финкельштейн
Чатик, что порекомендуете для тестирования пайплайнов? Хочу тестировать шире чем Спарк.
😂лучше бы кнопочку в бигдата тулс сделали под кафку, чтобы выводила в буфер размер всех топиков, кол-во партиций в топике, сколько в какакой партиции записано, кто создавал, когда последний раз из неё читали писали😂 а то уже пол дня думаю сколько костылей в скрипте будет
источник

ПФ

Паша Финкельштейн... in Data Engineers
Старый Хрыч
😂лучше бы кнопочку в бигдата тулс сделали под кафку, чтобы выводила в буфер размер всех топиков, кол-во партиций в топике, сколько в какакой партиции записано, кто создавал, когда последний раз из неё читали писали😂 а то уже пол дня думаю сколько костылей в скрипте будет
Поддержка Кафки сейчас первая большая фича в очереди
источник

СХ

Старый Хрыч... in Data Engineers
https://plugins.jetbrains.com/plugin/11946-kafkalytic я вот такой плагин смотрел, но когда у тебя 600+ топиков и у каждого по 30-80 партиций - толку от него мало
источник

AZ

Anton Zadorozhniy in Data Engineers
Старый Хрыч
😂лучше бы кнопочку в бигдата тулс сделали под кафку, чтобы выводила в буфер размер всех топиков, кол-во партиций в топике, сколько в какакой партиции записано, кто создавал, когда последний раз из неё читали писали😂 а то уже пол дня думаю сколько костылей в скрипте будет
если не секрет, зачем вам это в IDE?
источник

СХ

Старый Хрыч... in Data Engineers
Anton Zadorozhniy
если не секрет, зачем вам это в IDE?
😐заходить на сервер и вызывать скрипт надоело
источник

СХ

Старый Хрыч... in Data Engineers
разработчик пишет - у меня плохо работает кафка, потом оказывается что из 30 партиций он пишет в 1
источник

СХ

Старый Хрыч... in Data Engineers
😐а у тебя кафка с 15 кафка логс директориями на разных дисках на нодах
источник

S

SeniorAnykey in Data Engineers
Старый Хрыч
😐заходить на сервер и вызывать скрипт надоело
Сделайте себе вебморду со всем необходимым. Там и смотрите чо)
источник

СХ

Старый Хрыч... in Data Engineers
SeniorAnykey
Сделайте себе вебморду со всем необходимым. Там и смотрите чо)
😂ты оплатишь её создание?
источник

СХ

Старый Хрыч... in Data Engineers
тыж не забывай, что хотят на тебя этот гемор переложить
источник

S

SeniorAnykey in Data Engineers
Старый Хрыч
😂ты оплатишь её создание?
А у меня она есть хD
источник

СХ

Старый Хрыч... in Data Engineers
SeniorAnykey
А у меня она есть хD
😐кафка менеджер хрень
источник

AZ

Anton Zadorozhniy in Data Engineers
Старый Хрыч
😐заходить на сервер и вызывать скрипт надоело
для этого же есть метрики, инвентарные сервисы со всеми метаданными
источник

S

SeniorAnykey in Data Engineers
Старый Хрыч
😐кафка менеджер хрень
Не. У нас своё решение написано.
источник

TT

Tsh Tsh in Data Engineers
SeniorAnykey
Не. У нас своё решение написано.
👍
источник

PK

Pavel Kashchenko in Data Engineers
Старый Хрыч
😂лучше бы кнопочку в бигдата тулс сделали под кафку, чтобы выводила в буфер размер всех топиков, кол-во партиций в топике, сколько в какакой партиции записано, кто создавал, когда последний раз из неё читали писали😂 а то уже пол дня думаю сколько костылей в скрипте будет
++++++++
источник

DZ

Dmitry Zuev in Data Engineers
Старый Хрыч
😂ты оплатишь её создание?
Там сложность чуть больше чем у твоего скрипта
источник