Size: a a a

2021 June 04

SK

Sergey Kaurov in Data Engineers
var XRange = Range (start, end, 1)
Это указываем диапазон что ввели, например дату 20210301 до 20210603
источник

SK

Sergey Kaurov in Data Engineers
И функция udf:
источник

SK

Sergey Kaurov in Data Engineers
Так а чего парюсь....
источник

SK

Sergey Kaurov in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
и
источник

GP

Grigory Pomadchin in Data Engineers
в чем проблема то
источник

GP

Grigory Pomadchin in Data Engineers
типы все верные?
источник

GP

Grigory Pomadchin in Data Engineers
без зинпута все ок?
источник

GP

Grigory Pomadchin in Data Engineers
чо ты пробовал
источник

GP

Grigory Pomadchin in Data Engineers
где тело удф которая не работает
источник

SK

Sergey Kaurov in Data Engineers
Только прописал в место (score > 0.5) это XRange.contains(data)
источник

SK

Sergey Kaurov in Data Engineers
Тупо в udf прописал:
Range (20210301, 20010603, 1).contains(data) и всё при вызове функции со столбцом из БД заработало
источник

SK

Sergey Kaurov in Data Engineers
Получается без ЗИПУТА всё ОК
источник

SK

Sergey Kaurov in Data Engineers
Да
источник

SK

Sergey Kaurov in Data Engineers
источник

SK

Sergey Kaurov in Data Engineers
Только так сейчас смог 😄
источник

GP

Grigory Pomadchin in Data Engineers
дава сутречка код с примерап окиадешь
источник

S

Stanislav in Data Engineers
привет, может кто встречался с загагулиной феникса
загружал в него датафрейм из спарка и долго думал, что он не зашел полностью, потому что селекты показывали мало данных
а сегодня сделал count(*) - все строчки на месте
а вот group by по основному ключу показывает кучу дублей(в моем случае 24) в выборке
типа
key1 10000
key1 12000
key1 9000
key2 11000
key2 8000
...
из-за этого и селекты похоже нормально не работают. план запроса нормальный
как такое может быть?
источник

S

Stanislav in Data Engineers
при этом count(distinct key) выдает верное число ключей
источник

SS

Sergey Sheremeta in Data Engineers
привет! а если вручную обновить статистику?
источник