Size: a a a

2021 March 01

AZ

Anton Zadorozhniy in Data Engineers
Grigory Pomadchin
спарки на ярне 3 работают как и на ярне 2 афаик
не знаю можно ли заставить спарки в докер контейнерах под ярном работать

но наверн както можно - у ярна там сеттингов милиард
Вот кмк это особенность спарка больше, ярн давно механизмы для изоляции предоставляет
источник

GP

Grigory Pomadchin in Data Engineers
Anton Zadorozhniy
Вот кмк это особенность спарка больше, ярн давно механизмы для изоляции предоставляет
возможно
не спорю)
источник

K

KrivdaTheTriewe in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
но вот сейчас спарки подбирают зависомсти с машины под ярном
источник

AZ

Anton Zadorozhniy in Data Engineers
Я никогда не видел чтобы ярн использовали как general purpose платформу для веб-сервисов и всего такого
источник

GP

Grigory Pomadchin in Data Engineers
да, но теоретически можно ¯\_(ツ)_/¯
источник

AZ

Anton Zadorozhniy in Data Engineers
Также как кубер еще страшно далёк от аналитических ворклоадов на которые ярн используют
источник

N

Nikita Blagodarnyy in Data Engineers
Grigory Pomadchin
спарки на ярне 3 работают как и на ярне 2 афаик
не знаю можно ли заставить спарки в докер контейнерах под ярном работать

но наверн както можно - у ярна там сеттингов милиард
А зачем вообще докер? Это же жава приложение. Соберите фат жар или подсуньте ему нужные provided депы с хдфс/минио/whatever.
источник

GP

Grigory Pomadchin in Data Engineers
а пример можно, где кубер не ввезет?
источник

GP

Grigory Pomadchin in Data Engineers
Nikita Blagodarnyy
А зачем вообще докер? Это же жава приложение. Соберите фат жар или подсуньте ему нужные provided депы с хдфс/минио/whatever.
я про и про жнай и про класспас который я не хочу мешать
источник

GP

Grigory Pomadchin in Data Engineers
обычно то у тебя в класспасе куча всего валяется
и у тебя вариант или все выправлять или убирать
теперь значит под разные зависимости тебе кластеры разные
источник

GP

Grigory Pomadchin in Data Engineers
или совместимость какуюто соблюдать
источник

K

KrivdaTheTriewe in Data Engineers
Nikita Blagodarnyy
А зачем вообще докер? Это же жава приложение. Соберите фат жар или подсуньте ему нужные provided депы с хдфс/минио/whatever.
а если нативные либы какие используются?
источник

AZ

Anton Zadorozhniy in Data Engineers
Grigory Pomadchin
а пример можно, где кубер не ввезет?
Вообще нет очередей, управление ресурсами (сверху) только в виде квот на неймспейсы (лимиты на поды не считаем)
источник

GP

Grigory Pomadchin in Data Engineers
Anton Zadorozhniy
Вообще нет очередей, управление ресурсами (сверху) только в виде квот на неймспейсы (лимиты на поды не считаем)
ну очередей нет, да
источник

GP

Grigory Pomadchin in Data Engineers
Anton Zadorozhniy
Вообще нет очередей, управление ресурсами (сверху) только в виде квот на неймспейсы (лимиты на поды не считаем)
а почему лимиты на поды не считаем?
источник

GP

Grigory Pomadchin in Data Engineers
можно и на неймспейсы ковты и на поды
на каждый ран свои лимиты можешь устанавливать
т.е. это прям наалогия ярну - теж лимиты по спу и по памяти на старте
тотже оффхип
источник

GP

Grigory Pomadchin in Data Engineers
я если что не адвокат куберу там свои проблемы
просто мотивацию объясняю что не ярном едины
источник

NN

No Name in Data Engineers
Anton Zadorozhniy
Так а чем хадуп не устраивает?
Ну вот на него тут жаловались в чатике, я и хочу понять, что с ним не так. Интересно же
источник

N

Nikita Blagodarnyy in Data Engineers
KrivdaTheTriewe
а если нативные либы какие используются?
Вам встречался такой кейс, когда депы нет в мавен ценрал?
источник