Size: a a a

2019 August 12

Ж

Жмака in Data Engineers
Anton Zadorozhniy
данные переносить не нужно, при рестарте с новой конфигурацией у вас данные отреплицируются на новую ноду
Данные nn, jn, zkfc, zookeeperи и resource manager?
источник

AZ

Anton Zadorozhniy in Data Engineers
в тройке вроде можно уже >1 standby namenodes
источник

Ж

Жмака in Data Engineers
Установили до меня только два.
источник

AZ

Anton Zadorozhniy in Data Engineers
в вашей версии и нельзя больше
источник

AZ

Anton Zadorozhniy in Data Engineers
Жмака
Данные nn, jn, zkfc, zookeeperи и resource manager?
если вы делаете rolling migration (как я написал) то данные будут реплицироваться средствами самих сервисов
источник

Ж

Жмака in Data Engineers
Нужно неймнод в сэйфмод запускать или остановить только через hadoop-daemon stop?
источник

AZ

Anton Zadorozhniy in Data Engineers
если у вас регулярные бэкапы fsimage - просто останавливайте
источник

AZ

Anton Zadorozhniy in Data Engineers
главное с новой конфигурацией запускайте сначала сервисы на старых нодах
источник

Ж

Жмака in Data Engineers
Какие конфигурации необходимы? Файлы xml скопировать на новые серверы? А если склпировать всю папку hadoop?
источник

AZ

Anton Zadorozhniy in Data Engineers
вообще конфигурацию обычно делают как-то централизовано, просто накатить ее на новые ноды
источник

Ж

Жмака in Data Engineers
Anton Zadorozhniy
вообще конфигурацию обычно делают как-то централизовано, просто накатить ее на новые ноды
Установка до меня была. Придется с тем что есть переносить( Получается что только новые хосты надо в конфигурации переписать? Потом на старом неймноде можно будет удалить папку nn, jn, zookeeper?
источник

AZ

Anton Zadorozhniy in Data Engineers
Жмака
Установка до меня была. Придется с тем что есть переносить( Получается что только новые хосты надо в конфигурации переписать? Потом на старом неймноде можно будет удалить папку nn, jn, zookeeper?
думаю вам стоит это переделать, такая работа с конфигурацией это не дело
источник

AZ

Anton Zadorozhniy in Data Engineers
вам нужно 4 версии конфигурации: 1 все старые мастера 2 два старых мастера и один новый 3 один старый мастер и два новых 4 все новые мастера
источник

Ж

Жмака in Data Engineers
Не дадут. Время ограничено. Поэтому думаю как перенести неймноды так, чтобы было в нынешней конфигурации и датаноды остались на старом сервере
источник

AZ

Anton Zadorozhniy in Data Engineers
вы останавливаете сервисы на одном старом мастере, подкладываете следующую версю конфигурации (везде, не только на мастерах), рестартуете старые мастера и все воркеры, стартуете сервисы на новом мастере - и таких нужно три итерации
источник

Ж

Жмака in Data Engineers
Понятно. А почему не стоит переносить все папки с одним измененнием конфигурации? То есть остановить все, изменить конфигурацию, перенести папку hadoopa и содержимое папок nn, jn, zk, когда сервис zookeeper уже преустановлен (его через пакетный менеджер установили) и запустить все?
источник

AZ

Anton Zadorozhniy in Data Engineers
переносить зукипер переносом директории это плохая практика, почитайте документацию
источник

AZ

Anton Zadorozhniy in Data Engineers
в принципе если у вас новый ноды имеют точно такие же версии, хостимена, сетевые адреса - можно попробовать все просто остановить, перетащить и запустить, но я бы не рисковал
источник

Ж

Жмака in Data Engineers
Нет, это добавочные ноды. Идея перенести мастер нодымна новые серверы, потому что до этого их установили вместе с дата нодами.
источник

AZ

Anton Zadorozhniy in Data Engineers
судя по вопросам вы довольно плохо в этом всем разбираетесь, поэтому я бы сбэкапил и метаданные (fsimage)  и сами данные куда-нибудь
источник