Size: a a a

2021 April 30

Р

Ринат in Data Engineers
На удаленном сервере крутятся три контейнера в докере, один мастер и два воркера. Я со своего компа пытаюсь через интерпритатор запустить хоть что то, чтоб протестить. Когда я посылаю жобу, она забирает все ресурсы, и не выполняется. Скрины композ файла и Ui спарка могу кинуть, если нужно
источник

GP

Grigory Pomadchin in Data Engineers
у тебя ситуация когда твой драйвер (твоя машина) не в сети
у тебя вариант самый простой проверить что все доступно это быть в сети с мастером и воркерами
твой драйвер может достучаться до мастера, но в обратную сторону у тебя рпс не работает - ты не в сети
источник

GP

Grigory Pomadchin in Data Engineers
то что у тебя проблемы с дотупом к кластеру это едиснвтенны вариант объяснить что ресурсы не выделяются
источник

GP

Grigory Pomadchin in Data Engineers
альтернативный вариант ты в петоношеле требуешь от кластера сликшом много ресурсов
источник

Р

Ринат in Data Engineers
Но они же выделяются
источник

GP

Grigory Pomadchin in Data Engineers
драйвер выделяет, но никогда не слышит назад от кластера
источник

GP

Grigory Pomadchin in Data Engineers
потому что кластер никак до тебя не достучится
источник

GP

Grigory Pomadchin in Data Engineers
ты ж не в сети
источник

GP

Grigory Pomadchin in Data Engineers
уже проверил бы сто раз, гадания по каментам в чяте тяжело. у тебя что угодно может быть и скорее всего у тебя енв не рабочий просто
источник

GP

Grigory Pomadchin in Data Engineers
на мастер зайди, подними там пайшел, и проверь что все работает
источник

Р

Ринат in Data Engineers
Вот сейчас я кажется понял, спасибо большое
источник

ЕГ

Евгений Глотов... in Data Engineers
Если ты из питона запускаешь SparkSession, то внутри там делается спарк-сабмит
источник
2021 May 01

S

Shadle in Data Engineers
Как выбрать в postgresql
channel_id со значением TRUE но с максимальным приоритетом?
источник

S

Shadle in Data Engineers
Должно вернуться 1
источник

NB

Nikita Bakanchev in Data Engineers
заджоинить и оконку с сортировкой аля last_value с distinct в конце
источник

NB

Nikita Bakanchev in Data Engineers
хотя не очень понятно, что в итоге ожидается
источник

S

Shadle in Data Engineers
SELECT channel_id FROM client_channels
INNER JOIN client_channels_default ON client_channels.client_id = client_channels_default.client_id
WHERE client_channels.is_valid=TRUE
AND client_channels.client_id = NEW.client_id
AND client_channels_default.priority = MIN(client_channels_default.priority
источник

NB

Nikita Bakanchev in Data Engineers
пара clent_id, channel_id с макс приоритетом?
источник

S

Shadle in Data Engineers
нужен только айди канала
источник

S

Shadle in Data Engineers
можно кодом, пожалуйста, я новичок еще, синтаксис не очень хорошо знаю
источник