Size: a a a

2020 November 27

ТВ

Тёма Вятчанин... in Data Engineers
T
ну кто то же вам их дал, попросите проверить его/ее/их
Уже запрошено. Отвечают к сожалению не быстро.
источник

r

romλn in Data Engineers
Aleksandr
то есть получается, что опция "false" вообще ни к одной трансформации не применится? (учитывая, что дефолтная это "true")
будет применена опция которая ближе к терминальной операции. Попробуй локально позапускать через консоль show() и будет сразу по данным видно что подтянулось
источник

ME

Max Efremov in Data Engineers
Alex
когда ресурсов в кластере нету обычно джобы в accepted влетают
в вот при достижении лимитов как раз таки ошибка падает
У меня сейчас как раз такая ситуация, вроде ресурсы выданы, на ноде запущены контейнеры для задач, но чот в логи сыпит опять сообщением о недостатке ресурсов...
источник

ME

Max Efremov in Data Engineers
От ливи идёт: WARN YarnScheduler: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient resources

Приложения работают, память и ядра выделены
источник

ME

Max Efremov in Data Engineers
Попробую убить цеппелин, что-то у него 34 гига на приложение ушло :)
источник

ME

Max Efremov in Data Engineers
Хм, внезапно помогло... Сорри за монолог.
источник

ME

Max Efremov in Data Engineers
Хм, судя по всему у нас когда одно приложение запускается, оно берёт по максимуму, а другие ждут, если позже были запущены. Как раз цеппелин оказался тем единственным, а остальные ждали и отваливались по таймауту.
источник

ME

Max Efremov in Data Engineers
Видимо нам для цеппелина надо отдельную очередь выделять или на Fair переключаться
источник
2020 November 28

r

rubonz in Data Engineers
Всем привет 😊
Вероятно вопрос не по теме чата.
Может есть тут, кто с Discord API работал?
Есть задача собирать различную стату из гильдии/кaнала. Появились вопросы, как такой сбор лучше организовать. :)
источник

GP

Grigory Pomadchin in Data Engineers
rubonz
Всем привет 😊
Вероятно вопрос не по теме чата.
Может есть тут, кто с Discord API работал?
Есть задача собирать различную стату из гильдии/кaнала. Появились вопросы, как такой сбор лучше организовать. :)
не по теме) выбирай язык, бери сдк и собирай стату) там больших данных нет
источник

СД

Стас Донцов... in Data Engineers
Ищу в интернетах описание функционала хадупа, но везде булшит, можете подсказать где читануть? У меня есть задачи и я хочу понять поможет ли в этом хадуп.
источник

DZ

Dmitry Zuev in Data Engineers
Стас Донцов
Ищу в интернетах описание функционала хадупа, но везде булшит, можете подсказать где читануть? У меня есть задачи и я хочу понять поможет ли в этом хадуп.
Тогда думаю не поможет
источник

ME

Max Efremov in Data Engineers
Вообще в той же вики написано нормально, чтобы понять, что это такое
источник

ME

Max Efremov in Data Engineers
Архитектура, компоненты, облака
источник

СД

Стас Донцов... in Data Engineers
мне больше интересно какие функции над данными можно сделать, чем архитектура
источник

DZ

Dmitry Zuev in Data Engineers
Стас Донцов
мне больше интересно какие функции над данными можно сделать, чем архитектура
А какие нужно?
источник

СД

Стас Донцов... in Data Engineers
сцепить два объекта (в формате удобоваримом хадупу) по связи (четкой, по типу равенства двух значений, нечеткой, по типу "близости расстояния" между двумя значениями)
источник

СД

Стас Донцов... in Data Engineers
делать это как на потоке, так и по данным из локального стораджа (хранимые объекты из базы)
источник

СД

Стас Донцов... in Data Engineers
сцеплять то можно разными методами, просто хотелось прочесть четко набор функций хадупа и понять, можно ли на его функцианале как-то сцеплять
источник

TT

Tsh Tsh in Data Engineers
источник