Size: a a a

2019 August 13

GP

Grigory Pomadchin in Data Engineers
Новый, твой, восьмой! (Спарк Митап) https://moscowspark.timepad.ru/event/1032150/

И также Сцилла саммит в СФ: https://www.scylladb.com/scylla-summit-2019/
источник

АЖ

Андрей Жуков in Data Engineers
А чо спарк пинить,  все равно места кончились :)
источник

GP

Grigory Pomadchin in Data Engineers
Андрей Жуков
А чо спарк пинить,  все равно места кончились :)
чтоб не забывали
источник

АЖ

Андрей Жуков in Data Engineers
Grigory Pomadchin
чтоб не забывали
Справедливо
источник

DY

Dan Y in Data Engineers
строг, но справедлив!
источник
2019 August 14

ЕШ

Екатерина Шилина in Data Engineers
Вопрос по oozie workflow.
Есть ли возможность в workflow, чтобы запустить запрос вида SELECT count(1) FROM schema.table, а результат его вернуть  переменной oozie?
источник

OP

O. Petr in Data Engineers
А где директория с темплейтами для nifi, и реально ли через ансибл развернуть проект-темплейт ?
источник

S

Stanislav in Data Engineers
O. Petr
А где директория с темплейтами для nifi, и реально ли через ансибл развернуть проект-темплейт ?
Там рест апи для такого
источник

АЖ

Андрей Жуков in Data Engineers
хороший пароль был, надежный
источник

A

Alex in Data Engineers
Привет.
Не подскажите какие есть алтернативы singer.io для API интеграций, но у которых поддержка более активная?
источник

K

KrivdaTheTriewe in Data Engineers
было у кого,что Спарк Structured Streaming создает пустые орк файлы в партиции по 3 байта и всё(файл по-сути закоррапчен)
источник

K

KrivdaTheTriewe in Data Engineers
2.3.1 спарк от хдп
источник

GP

Grigory Pomadchin in Data Engineers
что значит пустые орк файлы?) ты как их создаешь
источник

GP

Grigory Pomadchin in Data Engineers
если у тебя партиции пустые то на 2.3 спарке он должен создавать пустые орк файлы
источник

GP

Grigory Pomadchin in Data Engineers
попробуй юзать spark.sql.orc.impl=native
источник

RI

Rustam Iksanov in Data Engineers
Grigory Pomadchin
Так локально работае или нет?
Спасибо. Все решил подправив spark-env.conf который отредактировал специально под новую версию спарка. Переменные окружения просто убрал. Они все внутри конфига оказались.
источник

GP

Grigory Pomadchin in Data Engineers
Rustam Iksanov
Спасибо. Все решил подправив spark-env.conf который отредактировал специально под новую версию спарка. Переменные окружения просто убрал. Они все внутри конфига оказались.
👍
источник

AS

Adlet Sarsembaev in Data Engineers
Всем привет, ребята, а есть ли возможность отвязать storagepolicy в версии хадуп 2.6.0?
источник

AS

Adlet Sarsembaev in Data Engineers
в 3 есть unsetStoragePolicy
источник

AS

Adlet Sarsembaev in Data Engineers
Adlet Sarsembaev
Всем привет, ребята, а есть ли возможность отвязать storagepolicy в версии хадуп 2.6.0?
т.е. какой нибудь способ
источник