Size: a a a

2021 September 02

ЕГ

Евгений Глотов... in Data Engineers
Иногда без него не обойтись, например, чтобы получить список всех колонок датафрейма, вот это уже косяк спарка
источник

AS

Andrey Smirnov in Data Engineers
ошибка сверху из-за того что люди не понимают что withColumn возвращает новый датафрейм, они датасайентисты вообще страдают из-за нехватки inplace=True
источник

ЕГ

Евгений Глотов... in Data Engineers
Что нет функции all_columns или типа того
источник

A

Alex in Data Engineers
опять сейчас откроются врата ада по поводу поддержки sql
источник

ЕГ

Евгений Глотов... in Data Engineers
Лишние присвоения это конечно не ошибка, но они усложняют в итоге жизнь
источник

АЖ

Андрей Жуков... in Data Engineers
А в каких случаях он схему не всю отдает?
источник

ЕГ

Евгений Глотов... in Data Engineers
Особенно на питоне, когда одной и той же переменной по 100500 раз идёт переприсваивание
источник

ЕГ

Евгений Глотов... in Data Engineers
Я имею в виду, если мне нужно взять например колонки без буквы ZU в названии
источник

DT

Danz The Deadly in Data Engineers
Писать названия колонок неявно - это бэд практис
источник

ЕГ

Евгений Глотов... in Data Engineers
Придётся сделать df = ...
filter(not zu, df.columns)
источник

ЕГ

Евгений Глотов... in Data Engineers
У меня была витрина на 3500 метрик с автогенерацией из пивота, я бы посмотрел, как ты её на sql будешь писать😆
источник

DT

Danz The Deadly in Data Engineers
Здесь надо подумать о том, чтоб сократить их
источник

DT

Danz The Deadly in Data Engineers
Там явно что-то повторяется или очень близко по смыслу
источник

АЖ

Андрей Жуков... in Data Engineers
ааа
я просто прям запаниковал, что где-то в ресерче ребята на схеме могут подорваться
источник

ЕГ

Евгений Глотов... in Data Engineers
Вы может там хранилища строите, а мы бустинг обучали, нам нужно было по категориям всё распилить
источник

ЕГ

Евгений Глотов... in Data Engineers
Чтоб выяснить, какая категория больше влияет на результат
источник

DT

Danz The Deadly in Data Engineers
А, это про дс....
источник

ЕГ

Евгений Глотов... in Data Engineers
А какой смысл делать де без дс? Деньги-то откуда брать?
источник

DT

Danz The Deadly in Data Engineers
Для аналитики
источник

DT

Danz The Deadly in Data Engineers
Для иот
источник