Size: a a a

2021 December 26

A

Alex in Moscow Spark
С интерактивом поэтому вынесли в отдельную очередь, так как при загрузке днем создание нотебука минутами ждать можно
источник

ЕГ

Евгений Глотов... in Moscow Spark
Ну очередь понятно, но когда етли не умещаются вместе с юзерами в одном кластере, а впихнуть невпихуемое надо
источник

A

Alex in Moscow Spark
При среднем 100 джобы которые требуют sla на выполнение могут начать отставать.... Что не есть хорошо
источник

ЕГ

Евгений Глотов... in Moscow Spark
Так у них выше приоритет, на то и преемпшен
источник

ЕГ

Евгений Глотов... in Moscow Spark
Юзеров срубает и всё
источник

ЕГ

Евгений Глотов... in Moscow Spark
Сла выполнен
источник

A

Alex in Moscow Spark
У нас интерактив подумываем в кубик вынести, его меньше
источник

ЕГ

Евгений Глотов... in Moscow Spark
Отсчиталось - юзеры опять набегают
источник

ЕГ

Евгений Глотов... in Moscow Spark
И их контейнеры уже не скидывает
источник

A

Alex in Moscow Spark
А пользователям в это время чай пить?
источник

ЕГ

Евгений Глотов... in Moscow Spark
Пользователю минимальный контейнер выдаётся
источник

ЕГ

Евгений Глотов... in Moscow Spark
Иногда и такое бывает, а чё поделать
источник

ЕГ

Евгений Глотов... in Moscow Spark
Если одна балалайка на всех, то играют по очереди)
источник

ЕГ

Евгений Глотов... in Moscow Spark
Или каждому по струне
источник

ЕГ

Евгений Глотов... in Moscow Spark
источник

NN

No Name in Moscow Spark
А у вас много вообще адхока спарком?
источник

A

Alex in Moscow Spark
Вот из-за того что в ярне норм екстернал шафл сервер, то почти всегда только драйвер и остаётся, сложно считать =/
источник

A

Alex in Moscow Spark
Как в кубике с этим будет вопрос открытый
источник

NN

No Name in Moscow Spark
А что он принципиально изменит, если ресурсов будет столько же?
источник

A

Alex in Moscow Spark
Вопрос у нас сейчас сколько выделить ресурсов под куб кластер

Екстернал шафл сервера у кубика нету

Деаллокацию может делать только по эвристикам убить ноды которые данные от рдд нужные не держат

В случае ярна, большинство джобов оставляют только драйвер, пока пользователь пошёл на кофе

Сколько же вернёт спарк кубику нужно тестить и смотреть, пользователей всё равно не сразу же всех закидывать будем
источник