Size: a a a

2021 February 09

N

Nikita Blagodarnyy in Data Engineers
Anton Zadorozhniy
Переключение RM
фишка в том, что он на самом деле не переключается никуда. и просто встает колом и прекращает проталкивать приложения,все умирает в NEW_SAVING
источник

Т

Тони in Data Engineers
Nikita Blagodarnyy
фишка в том, что он на самом деле не переключается никуда. и просто встает колом и прекращает проталкивать приложения,все умирает в NEW_SAVING
Нужно логи zk смотреть
С такими симптомами была проблема, правда ещё на 2.8.5
Rm пытался записать znod'у больше 1мб.
Решилось увеличением jute.maxbuffer
источник

E

Evgeny in Data Engineers
Ну, фенсинг от зукипер а прилетел, а на вопрос 'почему' могут ответить логи рма или задействованых сервисов..
источник
2021 February 10

N

Nikita Blagodarnyy in Data Engineers
Evgeny
Ну, фенсинг от зукипер а прилетел, а на вопрос 'почему' могут ответить логи рма или задействованых сервисов..
Он до этого получал отлупы от зк, может поэтому.
источник

UR

Uncle Ruckus in Data Engineers
K S
Там сначала идёт ETL, который генерит данные для аналитики. Если всё в куче, то аналитика и адхок занимают ресурсы и замедляют ETL.
Господа, а кстате. А за что вы так ETL-тулзы не любите?
источник

GP

Grigory Pomadchin in Data Engineers
Uncle Ruckus
Господа, а кстате. А за что вы так ETL-тулзы не любите?
ETL никто не любит, ими горели одно время и пытались конфиги делать километровые, однако сейчас очевидно что это тупик)
источник

GP

Grigory Pomadchin in Data Engineers
оркестрация идет в сторону языков и человеческих DSL и сам ‘ETL’ более гибкий и можно и не звать его ETLом
источник

UR

Uncle Ruckus in Data Engineers
а зачем там конфиги? какие конфиги?
источник

GP

Grigory Pomadchin in Data Engineers
Uncle Ruckus
а зачем там конфиги? какие конфиги?
традиционный етл это ямла куча
источник

GP

Grigory Pomadchin in Data Engineers
ну или что-то такое
источник

UR

Uncle Ruckus in Data Engineers
Мысль понятна, но не согласен конеч... Но надо подумать, что-то в этом есть... Спасибо
источник

ЯБ

Яна Быкова in Data Engineers
Добрый день! Нужна консультация дата инженера. Необходимо разобрать проект. Платно.
источник

SS

Sergey Shushkov in Data Engineers
Яна Быкова
Добрый день! Нужна консультация дата инженера. Необходимо разобрать проект. Платно.
Я бы уточнил, что в вашем понимании разобрать. А то предложат -rm на серверах просто сделать.
источник

AS

Andrey Smirnov in Data Engineers
Sergey Shushkov
Я бы уточнил, что в вашем понимании разобрать. А то предложат -rm на серверах просто сделать.
любой каприз за ваши деньги :)
источник

AZ

Anton Zadorozhniy in Data Engineers
Uncle Ruckus
Господа, а кстате. А за что вы так ETL-тулзы не любите?
Ну мы тут профессионалы, поэтому «люблю/не люблю» это не термины в которых обычно рассуждают. Просто у классических ETL платформ довольно узкая ниша, и применение их за рамками ниши приводит к тому что борьба с инструментом затмевает любую ценность которую несёт инструмент.
источник

N

Nikita Blagodarnyy in Data Engineers
Uncle Ruckus
Господа, а кстате. А за что вы так ETL-тулзы не любите?
Во-первых, что считать етл тулом. Если из разряда датастейдж/информатика/ссис, то у них довольно ограниченный скоуп использования и функциональность. Из ораклового одс взять, сагрегировать, переложить с лукапом по цсв в терадатку-прекрасно. Шаг влево/шаг вправо-начинается велосипедостроение и скриптинг-апи обстучать не работает, xml только заданной структуры делает и т.п. Ну и плюс когда логика етл сложная - все эти канвасы превращаются в филиал ада(например, сдс сделать) либо логика выносится на сторону базы и тогда система непрозрачна и непонятно зачем вообще нужна.
А попытки зайти на хадуп и из кубиков генерить скала код и вовсе тошнотворны и работают процентоы на 30 от заявленного.
источник

N

Nikita Blagodarnyy in Data Engineers
А пентаха под макос не заводится вообще)
источник

S

S in Data Engineers
Nikita Blagodarnyy
А пентаха под макос не заводится вообще)
работает на маке
источник

UR

Uncle Ruckus in Data Engineers
Anton Zadorozhniy
Ну мы тут профессионалы, поэтому «люблю/не люблю» это не термины в которых обычно рассуждают. Просто у классических ETL платформ довольно узкая ниша, и применение их за рамками ниши приводит к тому что борьба с инструментом затмевает любую ценность которую несёт инструмент.
Ну если профессионалы того, как называется группа, то и ниша профессии довольно узкая: подготовить структурированный датасет. При этом желательно при необходимости профессионалу из другой области иметь возможность обьяснить, как собственно этот датасет был получен
источник

UR

Uncle Ruckus in Data Engineers
S
работает на маке
Я ждал упоминания именно этого ПО ))))
источник