Size: a a a

2019 June 26

GP

Grigory Pomadchin in Moscow Spark
спарк нативный на мезосе тоже есть
источник

DZ

Dmitry Zuev in Moscow Spark
ну я про менаджмент окружения скорей
источник

GP

Grigory Pomadchin in Moscow Spark
ну кубер привлекет тем, что если у тебя все настрено - то ты что локально сабмититшь таски
что удаленно
что у себя на хосте поднимаешь конетенры
что удаленно
источник

GP

Grigory Pomadchin in Moscow Spark
все очень удобно и унифицированно
источник

DZ

Dmitry Zuev in Moscow Spark
у меня боль с питоном. после убер джара бесит оч
источник

GP

Grigory Pomadchin in Moscow Spark
ах ну да ты напомнил
источник

GP

Grigory Pomadchin in Moscow Spark
очень удобно поддерживать спарк и спарко депы изолированы в кубере
источник

GP

Grigory Pomadchin in Moscow Spark
фактически у тебя отдельный контейнер на ехекуторы, на драйвер
источник

GP

Grigory Pomadchin in Moscow Spark
туда можно пихать что хочешь - это довольно просто и ускоряет и деплой и разработку

туда 1 раз в конетйр завернул какуюнить фортрану либу которую использует твой JNI и все отлично
или какойнить мл
источник

GP

Grigory Pomadchin in Moscow Spark
на том же амазоне для EMR приходит костылить костыльные бутстрап скрипты 😵 билдить все в рпмы для ускорения развертывания кластера и тп
источник

GP

Grigory Pomadchin in Moscow Spark
Dmitry Zuev
у меня боль с питоном. после убер джара бесит оч
а как это связано с кубером и мезосом?)
источник

GP

Grigory Pomadchin in Moscow Spark
и чем уберджар плох?
источник

DZ

Dmitry Zuev in Moscow Spark
наоборот, убер джар секси
источник

DZ

Dmitry Zuev in Moscow Spark
а питон венв не секси
источник

GP

Grigory Pomadchin in Moscow Spark
источник

DZ

Dmitry Zuev in Moscow Spark
и что если у тебя есть возможность запускать в контейнере с нужным питонячим венвом это оч круто
источник

GP

Grigory Pomadchin in Moscow Spark
хм
источник

DZ

Dmitry Zuev in Moscow Spark
саентологи надобавляли тебе 100500 кастомных зависимотей, ci собрал образ и у тебя нет боли с тем как это деливерить
источник

GP

Grigory Pomadchin in Moscow Spark
ну попроуй мезос

мы бы в том моем опыте пробовали бы мезос т.к. на момент нативного спаркокубера он был такой зеленый и мы много поели
но в итоге все хорошо работает достаточно; но было непреодолимое действие внешних сил которое заставило кубер иметь
источник

GP

Grigory Pomadchin in Moscow Spark
Grigory Pomadchin
ну попроуй мезос

мы бы в том моем опыте пробовали бы мезос т.к. на момент нативного спаркокубера он был такой зеленый и мы много поели
но в итоге все хорошо работает достаточно; но было непреодолимое действие внешних сил которое заставило кубер иметь
кстати интересно как 3д пати депы в спарк нативе на мезосе сабмитятся
источник