Size: a a a

2019 June 26

DZ

Dmitry Zuev in Moscow Spark
Надеюсь переведем на куб и будет меньше головняка
источник

DZ

Dmitry Zuev in Moscow Spark
Ну и тогда в догонку, кто запускает Спарк на gke? Видел там Спарк оператор, но пока только присматриваюсь
источник

GP

Grigory Pomadchin in Moscow Spark
Dmitry Zuev
Ну и тогда в догонку, кто запускает Спарк на gke? Видел там Спарк оператор, но пока только присматриваюсь
на гуглеклауде ты всегда можешь растянуть кубер и пускать спарк на кубере используя кубершедулер
я от него не в востороге, но к нему быстро привыкаешь, и есть один прод который на кубере со спарка 2.2 (сейчас толи 2.3 толи 2.4) и полет уже полтора года нормальный
источник

GP

Grigory Pomadchin in Moscow Spark
Grigory Pomadchin
на гуглеклауде ты всегда можешь растянуть кубер и пускать спарк на кубере используя кубершедулер
я от него не в востороге, но к нему быстро привыкаешь, и есть один прод который на кубере со спарка 2.2 (сейчас толи 2.3 толи 2.4) и полет уже полтора года нормальный
там гугл кубер** очепятка
источник

GP

Grigory Pomadchin in Moscow Spark
но сути ответа \не меняет - не нужен оператор чтоб там что-то пускать;
источник

GP

Grigory Pomadchin in Moscow Spark
но они работают над нормальным оператором и 'правильным' т.к. спарк приложение для кубера не очень типично
источник

DZ

Dmitry Zuev in Moscow Spark
Grigory Pomadchin
на гуглеклауде ты всегда можешь растянуть кубер и пускать спарк на кубере используя кубершедулер
я от него не в востороге, но к нему быстро привыкаешь, и есть один прод который на кубере со спарка 2.2 (сейчас толи 2.3 толи 2.4) и полет уже полтора года нормальный
Ну то есть там тонна хелма на запуск у вас?
источник

GP

Grigory Pomadchin in Moscow Spark
не очень типично значит что обычно кубер не ожидает что его контейнеры будут хавать целые не делимые ядра и забивать память контенера до хардлимитов постоянно - он дуает это неверно и может кильнуть
источник

GP

Grigory Pomadchin in Moscow Spark
Dmitry Zuev
Ну то есть там тонна хелма на запуск у вас?
нет, зачем?
источник

GP

Grigory Pomadchin in Moscow Spark
Dmitry Zuev
Ну то есть там тонна хелма на запуск у вас?
источник

GP

Grigory Pomadchin in Moscow Spark
он использовать будет кубер взаместо ярна / мезоса
источник

DZ

Dmitry Zuev in Moscow Spark
Аа, ну я просто читал и там был пример с хелмом. Но это было давно
источник

DZ

Dmitry Zuev in Moscow Spark
И не помню зачем
источник

GP

Grigory Pomadchin in Moscow Spark
года 2-3 назад другого (кроме как хелмом) способа не было
источник

DZ

Dmitry Zuev in Moscow Spark
Grigory Pomadchin
он использовать будет кубер взаместо ярна / мезоса
Ето понятно
источник

DZ

Dmitry Zuev in Moscow Spark
Я думал в эту сторону
источник

DZ

Dmitry Zuev in Moscow Spark
Spark Operator | Marketplace - Google Cloud Platform
https://console.cloud.google.com/marketplace/details/google/spark-operator?pli=1
источник

GP

Grigory Pomadchin in Moscow Spark
источник

GP

Grigory Pomadchin in Moscow Spark
ну попробуй
я к тому, что если не получится, всегда есть способ запустить на кубере нативно спарк
источник

DZ

Dmitry Zuev in Moscow Spark
Grigory Pomadchin
ну попробуй
я к тому, что если не получится, всегда есть способ запустить на кубере нативно спарк
okay.jpg
источник