Size: a a a

2021 April 29

E

Evgeny in Data Engineers
ну, какие-то части этого есть. Логи рм\нн реально нужны раз в пол года; метрики хостов снимаются, задачки мониторятся через airflow
источник

Р

Ринат in Data Engineers
А можно как то адрес другой указать?
источник

GP

Grigory Pomadchin in Data Engineers
ну если ты знаешь адрес драйвера то просто укажи его
источник

GP

Grigory Pomadchin in Data Engineers
если у него порты торчат и доступны тебе то залезешь
источник

GP

Grigory Pomadchin in Data Engineers
иначе ну никак не узнаешь у тебя есть шелл
источник

GP

Grigory Pomadchin in Data Engineers
наверное если ты прочитал жейсон и заколектил его и распечатал то все ок
источник

Р

Ринат in Data Engineers
А как его узнать
источник

GP

Grigory Pomadchin in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
ну драйвера адрес будет та машина где ты шел запустил
источник

GP

Grigory Pomadchin in Data Engineers
потому, что твой шелл будет драйвером
источник

GP

Grigory Pomadchin in Data Engineers
драйвер это программа которая вычсиления строит и сабмити и получает сведения о результате
источник

Р

Ринат in Data Engineers
То есть я удаленно на сервере со своего компа запускаю задачу, и мой Ip и будет Ip драйвера
источник

GP

Grigory Pomadchin in Data Engineers
ну да тогда эт 127.0.0.1:4040
источник

GP

Grigory Pomadchin in Data Engineers
но я вообще уже потерялся что-то в твоем вопросе
источник

GP

Grigory Pomadchin in Data Engineers
у тебя шел, мне кажется там и без юай понятно выполнилось что или нет
источник

t

tenKe in Data Engineers
Из-за чего может не всегда работать sc.requestExecutors()?
ярн свободный, метод возвращает тру, но воркеры аллоцируются далеко не всегда
источник

GP

Grigory Pomadchin in Data Engineers
оч сложно)))0 а что значит невсегда работает? в логах пишет что запросил?
мож долго просто или не знает зачем ему иногда
источник

t

tenKe in Data Engineers
я сам тыкаю этот метод и ожидаю новых воркеров. Но он отрабатывает на пустом кластере с переменным успехом. Если запустить шелл и в нем прожать этот метод, то работает почти всегда. А вот на стримовом приложении, даже когда нет бегущих тасков, чет не особо, с успехом 50%
источник

t

tenKe in Data Engineers
логи еще не смотрел, но судя по коду этой функции врядли там чет интересное будет
источник

t

tenKe in Data Engineers
там вообще в ней какая то магия происходит
источник