Size: a a a

2021 July 02

V

Vasiliy in Data Engineers
там другие вопросы возникают, уже к вендору.
они очень много ляпов допустили в процессе интеграции.
И в целом работали рвано и долго доводили систему до кондиции.
Если бы не очень терпиливый РП с нашей стороны, которому они памятник торчат уже, как минимум позолоченый, не попали бы они никогда в критичные системы.
источник

V

Vasiliy in Data Engineers
Как с детьми иногда, ей богу.
Но это к теме не относится.

Докер может короче, есть примеры
но надо очень аккуратно и на расширении сразу ставьте крест
источник

TC

Tasty Cake in Data Engineers
Ох, вендорское уже 100 лет не юзал. 4 года подряд мне только опенсорс на проектах встречается
источник

V

Vasiliy in Data Engineers
Это не мешает им начинать опенсорсом, за примерами далеко ходить не надо
источник

AS

Andrey Shevchenko in Data Engineers
что вы делаете с дата инженерами которые генерируют такое?
источник

NN

No Name in Data Engineers
И что в этом, простите, ужасного?
Деталей, к сожалению, не видно, слишком мелко, и кода нет, но я и не такие джобы встречал.
источник

АЖ

Андрей Жуков... in Data Engineers
Которые присылают зашакаленные скриншоты дагов на отладку?
Таких сразу на мороз.
источник

AS

Andrey Shevchenko in Data Engineers
)) справедливо, но зашакален он специально, чтоб не палить названия таблиц
источник

NN

No Name in Data Engineers
Ну без этого хз, что тут не так.
Можно, гипотетически, разбить на отдельные джобы, но вполне возможно, что тут это будет лишним.
источник

AS

Andrey Shevchenko in Data Engineers
ну тут джоин результата джоина от джоина от ждоина вьюх внутри которых опять джоины..
источник

AS

Andrey Shevchenko in Data Engineers
и потом жалобы, а почему так медленно или падает по oom
источник

AS

Andrey Shevchenko in Data Engineers
джоины не с маленькими dimension tables
источник

НК

Николай Крупий... in Data Engineers
дык если порядок и тип джоинов норм, то и норм же, нет??)

(ну и, главное, джоины того, что надо))
источник

NN

No Name in Data Engineers
Ну, здрасьте, если такая модель данных, и задача соответствующая, то как по-другому?
Другое дело, что, возможно, неоптимально все реализовано, но это другой вопрос.
источник

НК

Николай Крупий... in Data Engineers
тут broadcast'а надобность проверить
источник

AS

Andrey Shevchenko in Data Engineers
так модель данных эти самые дата инженеры и разрабатывают
источник

NN

No Name in Data Engineers
Модель данных это все таки вопрос, в первую очередь, архитектурный, я считаю.
Ну, честно говоря, я не вижу смысла тут дальше что-то говорить, потому что исходя из той инфы, что Вы сюда кинули, все выглядит нормально.
источник

AS

Andrey Shevchenko in Data Engineers
да, согласен, просто бомбануло, а без деталей которые я не могу раскрывать не понять боли
источник

B

BadRat in Data Engineers
То есть есть способ получить все эти данные без джоинов? И вы его знаете?
источник

AS

Andrey Shevchenko in Data Engineers
как минимум отдельным ELT процессом материализовывать вьюхи, внутри которых тяжелые джоины и которые часто используются
источник