Size: a a a

2021 December 06

RG

Ruslan Ganeev in Data Engineers
Есть пример как его правильно прописать?
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
В документации по докер вагон примеров
источник

A

Alex in Data Engineers
docker run -v local_path:container_path
источник

RO

Rodion Ofatenko in Data Engineers
Привет. Может ли кто подсказать по Спарку (scala). Хочу дата фрейм, созданный из Seq элементов, застримить на кафка топик. Ловлю ошибку, что запись возможно только из стримового источника. Т.е. df = Seq(human1, humanN).toDF.writeStream не работает. Нагуглил, что нужен стрим контекст но не могу найти внятного примера
источник

RG

Ruslan Ganeev in Data Engineers
У меня контейнеры через docker compose up поднимаются
источник

A

Alex in Data Engineers
значит в разделе volumes docker-compose.yml:)
источник

RG

Ruslan Ganeev in Data Engineers
Там стояли пути ./dags:/opt/folder1 - все работает
Хотим получить доступ к папке которая на сервере лежит на уровень выше, пишем:
../FolderName:/opt/Folder2 - не работает
источник

AK

Alex K in Data Engineers
это pyspark, беру колонки в цикле из old_df. Из col_cur вычитаю col и в new_df[delta_col] сохраняю
источник

SI

Sergey Ivanychev in Data Engineers
лично я не понял вопрос, можно чуть подробнее?
источник

AK

Alex K in Data Engineers
это pyspark, беру колонки в цикле из old_df. Из col_cur вычитаю col и в new_df[delta_col] сохраняю
источник

AK

Alex K in Data Engineers
случайно изменил сообщение
источник

AK

Alex K in Data Engineers
old_df = new_df.withColumn(delta_col, new_df[col_cur]-new_df[col])
источник

SI

Sergey Ivanychev in Data Engineers
это выглядит ок, а где здесь, собственно, цикл?
источник

SI

Sergey Ivanychev in Data Engineers
вопрос все еще не ясен
источник

AK

Alex K in Data Engineers
сек
источник

ДД

Джон Дориан... in Data Engineers
Что пишет?
источник

ДД

Джон Дориан... in Data Engineers
Предлагаю, что билд контекст неправильно указан, но лучше бы посмотреть что за ошибка
источник

RG

Ruslan Ganeev in Data Engineers
Решили, надо было пересобрать, а мы рестартили
источник

АР

Андрей Романов... in Data Engineers
в спарке теперь есть джава 17
https://github.com/apache/spark/pull/34722
источник

АР

Андрей Романов... in Data Engineers
правда неизвестно, с какого релиза
источник