Size: a a a

2021 January 04

GP

Grigory Pomadchin in Data Engineers
+
источник
2021 January 05

☭S

☭ ⤳ λ Shinkevich... in Data Engineers
Vitaly Pismarev
Окупится тот же консалтинг от аренадаты )
Это ещё бааальшой вопрос ;)
источник

Oleg אולג in Data Engineers
Уходи подлый спамер
источник

☭S

☭ ⤳ λ Shinkevich... in Data Engineers
У, тут рожа другая, картинка та-же ;)
источник

JF

Jane Frankenstein in Data Engineers
здравствуйте :)  я с вопросом: поделитесь, пожалуйста, опытом использования  foreachBatch в structured streaming - какие есть минусы и неприятные ньюансы? Хочу сделать следующее: мой df писать в разные клауды и в разных форматах одновременно. Спасибо!
источник

N

Nikita Blagodarnyy in Data Engineers
Минус в том, что если посередине падает запись в 1 клауд, то умирает весь джоб.
источник

N

Nikita Blagodarnyy in Data Engineers
И не всегда есть возможность его повторить.
источник

JF

Jane Frankenstein in Data Engineers
оно ж перечитает потом?
источник

JF

Jane Frankenstein in Data Engineers
да?
источник

JF

Jane Frankenstein in Data Engineers
хмм
источник

JF

Jane Frankenstein in Data Engineers
я думала, что оно если зафейлится - просто перечитает
источник

JF

Jane Frankenstein in Data Engineers
ок, почитаю, спасибо
источник

JF

Jane Frankenstein in Data Engineers
это что ритраи костелять свои?
источник

JF

Jane Frankenstein in Data Engineers
или как выходят из такой ситуации обычно?
источник

N

Nikita Blagodarnyy in Data Engineers
не, перечитать-то перечитает, я имел ввиду другие причины. например, данных уже нет. или времени на перезапуск уже нет.
источник

JF

Jane Frankenstein in Data Engineers
но вариант рабочий, я гуглю и вижу используют
источник

N

Nikita Blagodarnyy in Data Engineers
наверняка, че нет-то.
источник

GP

Grigory Pomadchin in Data Engineers
Jane Frankenstein
но вариант рабочий, я гуглю и вижу используют
да можно использовать мы прост не знаем всего контекста
источник

GP

Grigory Pomadchin in Data Engineers
попробовать всегда можно если это на первый вглят кажется хорошим решением
источник

GP

Grigory Pomadchin in Data Engineers
потом сломается уж можно чинить
источник