Size: a a a

2019 May 27

AB

Andrey Bel in Data Engineers
подскажите плиз куда копать?
источник

AS

Andrey Smirnov in Data Engineers
Andrey Bel
может кто подскажет- пытаюсь записать файл  с локальной машины(винда ) на HDP в докере через программу в idea  получаю ошибку Exception in thread "main" org.apache.hadoop.ipc.RemoteException(java.io.IOException): File /fromlocal/indicators_2018-01-01_2018-01-03_segments/20180101T000000.000Z_20180102T000000.000Z/2018-12-29T13_19_22.476Z/0_index.zip could only be written to 0 of the 1 minReplication nodes. There are 1 datanode(s) running and 1 node(s) are excluded in this operation.
Файл надо реплицировать, а некуда
источник

AB

Andrey Bel in Data Engineers
те надо добавить репликацию(дополнительные ноды??)
источник

R

Rogoley in Data Engineers
Если система на «поиграться», то репликейшн фактор можно выставить 1.
источник

AS

Andrey Smirnov in Data Engineers
Rogoley
Если система на «поиграться», то репликейшн фактор можно выставить 1.
но все равно надо доп. ноду
источник

R

Rogoley in Data Engineers
Andrey Smirnov
но все равно надо доп. ноду
Можно докер.
источник

AB

Andrey Bel in Data Engineers
система для разработки
источник

VE

Vladimir E. in Data Engineers
Порт 8022 открыт?
источник

VE

Vladimir E. in Data Engineers
Такая ошибка бывает когда клиент видит неймноду и хдфс на ней, но не может ничего записать так как пытается приконектиться уже к машине куда должен файл сохранять. Но машина у тебя одна как я понимаю, так что я бы просто порт проверил
источник

AB

Andrey Bel in Data Engineers
спасибо проверяю
источник

AB

Andrey Bel in Data Engineers
в открытых не нашел,сейчас пробую открыть
источник

VE

Vladimir E. in Data Engineers
Насколько я знаю недостаток репликации даёт только предупреждение, а не ошибку
источник

VE

Vladimir E. in Data Engineers
Здесь именно что блок данных не смогу записать
источник

VE

Vladimir E. in Data Engineers
Ох, по порту промахнулся
источник

VE

Vladimir E. in Data Engineers
Наверно 50010 нужен, не 8022
источник

VE

Vladimir E. in Data Engineers
источник

VE

Vladimir E. in Data Engineers
И 50020
источник

VE

Vladimir E. in Data Engineers
У ХДП порты могут быть другие уже
источник

AB

Andrey Bel in Data Engineers
ок спасибо поправлю
источник

AB

Andrey Bel in Data Engineers
у нас хортон дистрибутив
источник