Size: a a a

2021 October 05

t

tenKe in Moscow Spark
просили без питона, но на питоне
источник

t

tenKe in Moscow Spark
источник

ПФ

Паша Финкельштейн... in Moscow Spark
можно scala udf из питона позвать
источник

t

tenKe in Moscow Spark
можн
источник

t

tenKe in Moscow Spark
py4j позволяет воплотить в жизнь самые страшные фантазии
источник

VV

Vladislav Verba in Moscow Spark
UP

На всякий случай, а то я прямо в середину обсуждений вклинился
источник

CO

Chern Oleksander in Moscow Spark
Короче, вот так вот решил сделать и пусть так и будет )))

my_time = spark.sql('''select from_utc_timestamp(current_timestamp(),"Europe/Kiev") current_time''').collect()[0][0]
источник

N

Nikita Blagodarnyy in Moscow Spark
Слушайте, а как вот такую структуру (when - otherwise) слепить динамически? Я заранее не знаю список полей, которые встретятся в жысоне, поэтому такое статическое перечисление не подходит.
Что-то кроме selectExpr ничего в голову не приходит.
источник

t

tenKe in Moscow Spark
рекурсия ж
источник

t

tenKe in Moscow Spark
хвостовская
источник

t

tenKe in Moscow Spark
источник

SS

Sergey Sheremeta in Moscow Spark
foldLeft над списком полей?
источник

N

Nikita Blagodarnyy in Moscow Spark
а как в нем подсунуть следующий when в otherwise предыдущего?
источник

GP

Grigory Pomadchin in Moscow Spark
что ты имеешь ввиду?
источник

GP

Grigory Pomadchin in Moscow Spark
аккумулятор у тебя первый when
источник

GP

Grigory Pomadchin in Moscow Spark
остальное это _.otherwise(when(
источник

M

Mi in Moscow Spark
почему у вас список when-otherwise если должно быть много when + один последний otherwise
источник

N

Nikita Blagodarnyy in Moscow Spark
да вот смотрю и чет хз зачем так написал
источник

M

Mi in Moscow Spark
тут разве что вопрос как список полей нужных собрать, а потом по этому списку уже можно будет арргериговать when + отдельно в конце прописать otherwise
источник
2021 October 06

ДА

Денис Ананьев... in Moscow Spark
всем привет. подскажите пожалуйста если в structured streaming за временное окно пришло N событий для идентификатора, потом окно сдвинулось и событий стало 0. можно ли как-то настроить, чтобы значение 0 тоже отправлялось?
источник