Size: a a a

2021 September 14

ЕГ

Евгений Глотов... in Data Engineers
Иф партишенбай:
Райтер = райтер.партишенбай
источник

E

El-Yaz in Data Engineers
🤔
а вот так будет норм или нет?
```
if is_target_partitioned:
   anonymized_source_df.partitionBy("load_date")

```
и дальше проводить вычисления\сохранения над этим DF
источник

ЕГ

Евгений Глотов... in Data Engineers
Нет, партишенбай - метод класса датафрейм райтер
источник

ЕГ

Евгений Глотов... in Data Engineers
А не датафрейм
источник

ЕГ

Евгений Глотов... in Data Engineers
Нужно получить райтер, а дальше напихивать ему опции с переприсваиванием
источник

E

El-Yaz in Data Engineers
тогда уж вот так вот, наверное?) бо по-другому у меня лыжи не едут))
https://pastebin.com/ehWdqtVi
источник

ЕГ

Евгений Глотов... in Data Engineers
Просто партишен бай ничего сам не сделает, он возвращает новый объект
источник

ЕГ

Евгений Глотов... in Data Engineers
Надо обратно райтеру присвоить
источник

E

El-Yaz in Data Engineers
о, спасибо за обьяснение!
поправил примерчик: https://pastebin.com/ehWdqtVi
я изначально правильно получаю райтера?
источник

ЕГ

Евгений Глотов... in Data Engineers
Да, вроде ок
источник

E

El-Yaz in Data Engineers
супер, спасибо еще раз! :3
источник

T

T in Data Engineers
Слушайте, очень странного хочу: вот допустим я прокинул в сессию джарник через spark.jar как мне потом его заимпортить ?
источник

AS

Artem S. in Data Engineers
#работа

Привет!

Нужно сделать скрипт для парсинга отдаваемых приложением данных. Приложение просит авторизации, работает на android. Парсинг в 2-4 шага (авторизация+запрос цены и всё). Бюджет обсуждаем. Нужно в максимально короткие сроки, желательно на python всё сделать (но тоже можно накидывать варианты)
источник

ТС

Тимур Садраддинов... in Data Engineers
Приглашаем разработчиков принять участие в международном конкурсе «Лидеры цифровой трансформации»!

Выбирай одну из 10 актуальных задач на сайте и разрабатывай новые цифровые продукты для города!
Направления задач: RecSys, CV, ASR, NLP.

Что ждет участников?
🏆Призовой фонд - 10 000 000 рублей
⏰ Доступ к уникальным датасетам для команд c 10 октября
🧑‍💻Многоуровневая экспертиза решений
🌐 Online-формат

⚡️ Дополнительные подарки партнеров: промокоды на пиццу, мерч для лучших команд, гранты на обучение и многое другое.

👤Если команды нет, то организаторы тебе помогут ее найти или можно найти единомышленников в чате конкурса

Подробности и регистрация:
🔗 https://bit.ly/3nuqigj
источник

ЕГ

Евгений Глотов... in Data Engineers
Он складывается куда-то в work_dir, а вообще по идее пишешь импорт мой.супер.пупер.класс, он прописан в класспаф должен быть
источник

T

T in Data Engineers
Вот не прокатывает в шеле такое. Если через --jars передать то да работает, аесли через конфиг сессии то нет
источник

ЕГ

Евгений Глотов... in Data Engineers
В юдфке хочешь джарки юзать?
источник

GP

Grigory Pomadchin in Data Engineers
источник

T

T in Data Engineers
Надо как то его залоудить
источник

T

T in Data Engineers
Но чёт я хз как
источник