Size: a a a

2019 July 01

IB

Ivan Blinkov in Data Engineers
источник

PA

Polina Azarova in Data Engineers
Кстати, другой вопрос про ярн)
Под ярн обычно отдают где-то 80% ядер машины
То есть на машине с 56 ядрами примерно 44 под ярн

Означает ли это, что джобы точно не отожрут больше 44 ядер всего или системные вызовы не считаются?)
У меня почему-то бывают ситуации, когда kernelspace отжирает по 30 ядер, остальное съедено пользователем. И утилизация проца полная.
Хотя может не стоило под ярн 44 ядра отдавать, многовато

P.s на тачке только нодменеджер, датанода, трифт от хбейза
источник

N

Nikita Blagodarnyy in Data Engineers
В документации хортона написано, что когда ядер много, то можно до 87,5% отдавать.
источник

VZ

Vitali Z in Data Engineers
Можно іногда і оверселліть
источник

N

Nata in Data Engineers
Kernelspace 30 ядер?  0_0
источник

N

Nata in Data Engineers
Polina Azarova
Кстати, другой вопрос про ярн)
Под ярн обычно отдают где-то 80% ядер машины
То есть на машине с 56 ядрами примерно 44 под ярн

Означает ли это, что джобы точно не отожрут больше 44 ядер всего или системные вызовы не считаются?)
У меня почему-то бывают ситуации, когда kernelspace отжирает по 30 ядер, остальное съедено пользователем. И утилизация проца полная.
Хотя может не стоило под ярн 44 ядра отдавать, многовато

P.s на тачке только нодменеджер, датанода, трифт от хбейза
Абсолютно идентичная конфигурация, всем всего хватает
источник

PA

Polina Azarova in Data Engineers
Nata
Kernelspace 30 ядер?  0_0
Пару раз в день бывает
Но обычно норм
На машинах постарее (где ядер поменьше) такого не происходит
источник

PA

Polina Azarova in Data Engineers
Может какая джоба иошная прилетает)
Но вроде ярн всё равно не должен вылезать за свои пределы 😢
источник

N

Nata in Data Engineers
Polina Azarova
Пару раз в день бывает
Но обычно норм
На машинах постарее (где ядер поменьше) такого не происходит
Ты это, отмониторь, это ж вообще не норма
источник

PA

Polina Azarova in Data Engineers
Vitali Z
Можно іногда і оверселліть
Да, на интеле вроде хорошо заходит
Но тут я боюсь что-то трогать)
Я хотела rpc потюнить ещё, подумала что процу совсем плохо станет
источник

PA

Polina Azarova in Data Engineers
Nata
Ты это, отмониторь, это ж вообще не норма
По атопу не оч понятно
Куча java)
источник

N

Nata in Data Engineers
ps aux
источник

PA

Polina Azarova in Data Engineers
Надо выловить момент)
источник

N

Nata in Data Engineers
Или мониторилка, которая процессы мониторит, у меня датадог, там можно историю процессов хранить
источник

PA

Polina Azarova in Data Engineers
Круто, спасибо)
источник

N

Nata in Data Engineers
Алерт накати на оверрасход ядер, заходи сразу и ищи))
источник

N

Nata in Data Engineers
Htop вроде показывает, его можно растянуть на два монитора и всё видно😀
источник

PA

Polina Azarova in Data Engineers
Крон написать :D
источник

AZ

Anton Zadorozhniy in Data Engineers
вообще можно оверкоммитить, если не используются изоляция по cgroups (вроде сейчас у всех отключено, бывают кернелпаники от него) yarn.nodemanager.linux-container-executor.cgroups.strict-resource-usage
источник

PA

Polina Azarova in Data Engineers
Атоп тоже показывает, но для всяких тредов просто java
Ни флажков ни названия демона)
Вот и гадай что этот за покемон
источник