Size: a a a

2021 October 09

DZ

Dmitry Zuev in Data Engineers
Валидно, но без рантайма спарка все равно огромная экономия
источник

ЕГ

Евгений Глотов... in Data Engineers
Ну, если читаешь из рдб и пишешь в хдфс, чем пишешь
источник

DZ

Dmitry Zuev in Data Engineers
Качать в много потоков не всегда быстрее чем в один.
источник

ЕГ

Евгений Глотов... in Data Engineers
3тб в один поток?😐
источник

ЕГ

Евгений Глотов... in Data Engineers
Ну кстати ради прикола можно на спарке запустить udf с твоим кодом, который будет читать и писать😆
источник

ЕГ

Евгений Глотов... in Data Engineers
Подзапрос по partition_id
источник

DZ

Dmitry Zuev in Data Engineers
А думаешь бд в много потоков тебе збс отдаст? Если есть индекс и ты в него улетишь то можно делить, если нет, то смысла нет. Ботлнек диски бд и сеть
источник

ЕГ

Евгений Глотов... in Data Engineers
В 200 потоков из постгреса грузили, полёт нормальный
источник

DZ

Dmitry Zuev in Data Engineers
Пг через copy читает под капотом в много потоков, смысла в случае сек скан нет
источник

ЕГ

Евгений Глотов... in Data Engineers
На нём ещё джира с конфлюенсом работали как-то😆
источник

ЕГ

Евгений Глотов... in Data Engineers
Подвисали)
источник

DZ

Dmitry Zuev in Data Engineers
Это потешить себя цифрами, мы тоже так думали. Потом замеряли
источник

DZ

Dmitry Zuev in Data Engineers
Ботлнек был io дисков, пг в одну сессию отдавала как не в себя
источник

DZ

Dmitry Zuev in Data Engineers
Thumbrule, в общем случае разработчик тупее бд
источник

DZ

Dmitry Zuev in Data Engineers
Если это не кх конечно
источник

ЕГ

Евгений Глотов... in Data Engineers
источник
2021 October 10

V

Viktor in Data Engineers
Привет! Организовываем конфу Podlodka Backend Crew #3, а я ищу спикеров!
В этот раз две больших темы на каждую неделю – Event driven подход и Проблемы микросервисов.
Если интересно и хочется поучаствовать – пишите в личку за подробностями
источник

D

Dmitriy in Data Engineers
А почему такая разница в цене для соло и от компании?
источник

V

Viktor in Data Engineers
Аргумент "билеты для юрлиц просто всегда дороже" звучит так себе, но AFAIK, сейчас все так, потому что на личный билет цена даже занижена, а с билетом для юрлиц есть оформление полного пакета документов и курьер
источник
2021 October 11

ПФ

Паша Финкельштейн... in Data Engineers
А в чём разница? Я тут посмотрел работаем ли мы с ливи, вроде работаем и вроде или ноутбуки запускаются...
источник