Size: a a a

2019 October 07

GP

Grigory Pomadchin in Data Engineers
Андрей Жуков
это понятно, я как раз об этом и начал думать
надо побаловаться с настройками
что бы конфуза не вызывать, по умолчанию spark.streaming.concurrentJobs = 1
источник

GP

Grigory Pomadchin in Data Engineers
всегда
источник

GP

Grigory Pomadchin in Data Engineers
а то вдруг мы о разном говорим)
источник

АЖ

Андрей Жуков in Data Engineers
Grigory Pomadchin
что бы конфуза не вызывать, по умолчанию spark.streaming.concurrentJobs = 1
Это я уже посмотрел, да 🙂
источник

SB

Sergey Bakaleynik in Data Engineers
Привет всем. Есть кто шарит в связке spark + scala? Вобщем у меня трабл: пытаюсь засабмитить приложение на кластер. В ответ мне приходит следующее: Uncaught exception: org.apache.spark.rpc.RpcTimeoutException: Futures timed out after [120 seconds].  Редактировал спарк-енв как на фото (по совету препода). Лог будет следующим сообщением.
P.S. редактировать настройки yarn я не могу
источник

SB

Sergey Bakaleynik in Data Engineers
источник

A

Alex in Data Engineers
давайте угадаю:
у вас удаленный кластер и вы пытаетесь запустить спарк шел?
источник

SB

Sergey Bakaleynik in Data Engineers
ну кластер в одной сети
источник

SB

Sergey Bakaleynik in Data Engineers
а так в каком-то смысле можно считать удаленным
источник

GP

Grigory Pomadchin in Data Engineers
почему оно перепутало порядок интересно
источник

GP

Grigory Pomadchin in Data Engineers
источник

АЖ

Андрей Жуков in Data Engineers
Grigory Pomadchin
почему оно перепутало порядок интересно
поди спарком пересылал
источник

A

Alex in Data Engineers
через кафку
источник

GP

Grigory Pomadchin in Data Engineers
Всем привет, есть кто шарит в связке spark + scala? Вобщем у меня трабл: пытаюсь засабмитить приложение на кластер. В ответ мне приходит следующее: Uncaught exception: org.apache.spark.rpc.RpcTimeoutException: Futures timed out after [120 seconds].
источник

GP

Grigory Pomadchin in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
пробовал, неоч помогло. И я не могу менять конфиги yarn, он на серваке внутренней сети находится ..
источник

GP

Grigory Pomadchin in Data Engineers
можешь показать весь стек трейс ?
источник

GP

Grigory Pomadchin in Data Engineers
вот
источник

GP

Grigory Pomadchin in Data Engineers
драйвер то достучаться может до кластера?
источник

GP

Grigory Pomadchin in Data Engineers
ты сабмит делаешь из той же сети?
источник