Size: a a a

2021 December 06

ДД

Джон Дориан... in Data Engineers
newDf = oldDf.select("col1", "col2")

newDf = newDf.withColumn("new_col_name", newDf["col1"] - newDf["col2"]). drop ("col1", "col2")
источник

AK

Alex K in Data Engineers
блин, это тебе не pandas конечно
источник

AK

Alex K in Data Engineers
Спасибо!
источник

AK

Alex K in Data Engineers
уже час мучался
источник

ДД

Джон Дориан... in Data Engineers
Не за что:)
источник

PA

Panchenko Andrey in Data Engineers
А есть тут кто возится с аирфлоу 2 + версии и активно использует Бигквери операторы для оркестрации скл джобов?
Вопросик есть
источник

D

Dmitry Tron in Data Engineers
Вакансий с требованием знания скалы или явы вроде хватает и вилочки там поинтересней, по крайней мере по моему опыту поиска так. А питон и так всегда где то под боком, скорее вспомогательный скилл как баш.
источник

D

Dmitry Tron in Data Engineers
Ну это скорее в Data Jobs, тут оффтопик.
источник

Д

Дмитрий in Data Engineers
Практика расходится с теорией. На питон вакух больше. Скала в де похоже совсем для гиков, java для отмороденых гиков. Sql еще пока нужен с питоном, но postgres  умеет питон из нутри.
источник

Д

Дмитрий in Data Engineers
Сильно не пинайте, это стеб ... после дня со скалой и ch.
источник

D

Dmitry Tron in Data Engineers
Больше не значит лучше.
А так общий тренд ясен, индустрия сnремится ускорять, удешевлять и унифицировать разработку. С точки зрения денег это выгодно, плюс ДСы и аналитики обычно знают только питон. Если от ДЕ не нужно ничего, кроме дергать API спарка - конечно лучше экономить.
источник

D

Dmitry Tron in Data Engineers
Но исходники спарка все равно на скале как бы, и если надо чуть дальше копнуть - у питонистов будут проблемы, по моему представлению.
источник

А

Александр in Data Engineers
А что насчёт cloud? Тренд?
источник

D

Dmitry Tron in Data Engineers
Ну, я сам планирую сертификацию проходить, на будущее надо подготовиться. Питон то если что подучить не проблема.
источник

Д

Дмитрий in Data Engineers
Сертификация от датабрикс котируется ?
источник

T

T in Data Engineers
Сертификты кроме галер(не всех) ни кому не нужны
источник

А

Александр in Data Engineers
"галер"? Что это?
источник

E

Evgeny in Data Engineers
это галеры, где гребут :)
источник

D

Dmitry Tron in Data Engineers
Ну сам уровень знаний КМК можно подтянуть в процессе получения. Коллеги проходили и остались довольны.
источник

D

Dmitry Tron in Data Engineers
Правда за счет компании. 😉
источник