Size: a a a

2021 November 21

A

Alex in Moscow Spark
Это же классика, разрешать оверповижининг или нет
источник

ЕГ

Евгений Глотов... in Moscow Spark
Вот второе не требуется на физической тачке, ресурсы максимально плотно используются
источник

ЕГ

Евгений Глотов... in Moscow Spark
Только успевай следить кто много отхапал
источник

A

Alex in Moscow Spark
Ага, только ходить пинать нужно
источник

ЕГ

Евгений Глотов... in Moscow Spark
Ну можно и дропать процесс же
источник

A

Alex in Moscow Spark
Приходим к вопросу когда дропать и по каким признакам

И чем это будет отличаться от лимитов
источник

K

KrivdaTheTriewe in Moscow Spark
эх
источник

ЕГ

Евгений Глотов... in Moscow Spark
Лимит можно недоиспользовать
источник

ЕГ

Евгений Глотов... in Moscow Spark
А тут дропается только в случае переиспользования
источник

ЕГ

Евгений Глотов... in Moscow Spark
Короче, ни одна из систем управления ресурсами не является полноценной, все зашквар😆
источник

A

Alex in Moscow Spark
Да

Поэтому мы request в кубик одни числа кидаем

Но limit уже другие

Условно софт и хард :)
источник

A

Alex in Moscow Spark
Я же и сказал про оверповижининг поэтому, нету правильного ответа на него =/
источник

A

Alex in Moscow Spark
Cpu условно эластичный ресурс

А вот память нет =/
источник
2021 November 22

ME

Mikhail Epikhin in Moscow Spark
Привет, спарконианцы. А кто-то пользуется параметрами --packages и --repositories у spark-submit?

Оно в целом неплохо работает, но частенько repo1.maven.org не отдает пакетики. Рвутся сессии, не совпадает content-length. Кто как с этим борется?
Я понимаю что можно сделать статическую сборку, но можно ли как-то подкрутить колечество ретраев у этих опций? В документации не нашел
источник

AS

Alexander Shorin in Moscow Spark
Мы все внешние джарники стащили и локально передаем - тогда не будет походов во внешний maven, который может быть не кстати заблочен.
источник

ME

Mikhail Epikhin in Moscow Spark
Ну да, мы так раньше тоже делали, просто надоело деражть свою jar-шару
источник

ME

Mikhail Epikhin in Moscow Spark
Хочется либо mvn mirror держать, либо уметь ретраить основной
источник

AS

Alexander Shorin in Moscow Spark
Увы /: Кажется пока альтернативы нет. Даже в плане переопределить репу для джарников.
источник

ME

Mikhail Epikhin in Moscow Spark
Ну вообще это странно, сетевой коннект и до jar на внутреннем хранилище тоже может порваться
источник

ЕГ

Евгений Глотов... in Moscow Spark
Надо свой кэш мавена завести
Nexus или Artifactory
источник