Size: a a a

2021 April 29

E

Evgeny in Data Engineers
timelineserver / historyserver / sparkhistory
источник

Р

Ринат in Data Engineers
Добрый день, можете подсказать что не так делаю. Есть spark с двумя воркерами. В панели спарка я их вижу. Но когда отправляю приложение на выполнение получаю следующую ошибку
Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient resources
источник

AZ

Anton Zadorozhniy in Data Engineers
это YARN приложенек и спарка, а для самих хадуп сервисов? нн, дн, нм, рм и вот это все?
источник

GP

Grigory Pomadchin in Data Engineers
ресурсов мало
источник

GP

Grigory Pomadchin in Data Engineers
жоба трубует больше чем 2 кора и 2 гб памяти
источник

ИК

Иван Калининский... in Data Engineers
обычно это варнинг, много раз повторяется в цикле. Потом приложение получает ресурсы и таки работает. Ну, или валится с ошибкой )
источник

E

Evgeny in Data Engineers
на данный момент  - локально, но есть trivial тикет сливать это все куда-нибудь в graylog\elastic. В целом, мониторинга хватает
источник

Р

Ринат in Data Engineers
Понял, спасибо
источник

AZ

Anton Zadorozhniy in Data Engineers
ну это вы в самом начале пути, я имел в виду уже полный набор опсовых фич в это части: центральный лог менеджмент, метрики хостов и приложений, алертинг
источник

Р

Ринат in Data Engineers
Это значит, оно выполнилось или упало?
источник

Р

Ринат in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
жобу в спарк юае посмотри
источник

Р

Ринат in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
stages
источник

Р

Ринат in Data Engineers
Статус exited не говорит о том, что оно упало?
источник

ИК

Иван Калининский... in Data Engineers
похоже, что выполнилось!
источник

GP

Grigory Pomadchin in Data Engineers
ну д обычн там чтото плохое если свалится
источник

ИК

Иван Калининский... in Data Engineers
но вот было ли сделано что-то полезное?
источник

GP

Grigory Pomadchin in Data Engineers
stages посмотри какие стейджи выполнились
источник

ИК

Иван Калининский... in Data Engineers
результат виден вообще?
источник