Size: a a a

2019 July 06

YI

Yukari I in Data Engineers
What kind of messages do you talking about?
источник

YI

Yukari I in Data Engineers
To be honest, I don't think its a good idea
источник

IS

Ilya Soin in Data Engineers
Sergey Bilenko
Кто-то ботами забавляется 🙂 Где фото таких симпатичных девушек берете?
источник
2019 July 08

AZ

Alexey Zinoviev in Data Engineers
Удалось попасть на лекции школы по параллельным и распределенным вычислениям. На первом блоке идет рассказ как раскатать параллельные концепции поверх распределенной системы
источник

E

Evgeny in Data Engineers
День добрый, подскажите, hive 2.3 и tez 0.7 работают вместе?
источник

A

Alex in Data Engineers
Должны, в том же хортоне в 3ей версии вообще всё что не тез депрекейтнули и удалили из настроек. Но там хайв 3й
источник

ДД

Дмитрий Демитов in Data Engineers
Доброго времени суток!

Не стартует Timeline service V2.0 reader, переименовал namenode (firstname -> namenode01), хотя он и до этого не стартовал, но сейчас в логах в определенный момент он пишет, что не может подключиться к хосту со старым именем, у меня есть предположение что где-то в базе Zookeeper указано старое имя, но где и как посмотреть ни как не разберусь

ну и кусок лога:

2019-07-05 16:56:02,560 INFO  [ReadOnlyZKClient-namenode01-hadoop.mydomain.local:2181@0x757277dc] zookeeper.ZooKeeper: Initiating client connection, connectString=namenode01-hadoop.mydomain.local:2181 sessionTimeout=90000 watcher=org.apache.hadoop.hbase.zookeeper.ReadOnlyZKClient$$Lambda$13/2079527777@1ac92422
2019-07-05 16:56:02,612 INFO  [ReadOnlyZKClient-namenode01-hadoop.mydomain.local:2181@0x757277dc-SendThread(namenode01-hadoop:2181)] zookeeper.ClientCnxn: Opening socket connection to server namenode01-hadoop/192.168.10.66:2181. Will not attempt to authenticate using SASL (unknown error)
2019-07-05 16:56:02,628 INFO  [ReadOnlyZKClient-namenode01-hadoop.mydomain.local:2181@0x757277dc-SendThread(namenode01-hadoop:2181)] zookeeper.ClientCnxn: Socket connection established, initiating session, client: /192.168.10.66:55148, server: namenode01-hadoop/192.168.10.66:2181
2019-07-05 16:56:02,657 INFO  [ReadOnlyZKClient-namenode01-hadoop.mydomain.local:2181@0x757277dc-SendThread(namenode01-hadoop:2181)] zookeeper.ClientCnxn: Session establishment complete on server namenode01-hadoop/192.168.10.66:2181, sessionid = 0x16bc079899903d3, negotiated timeout = 60000
2019-07-05 16:56:03,280 WARN  [main] client.ConnectionUtils: Can not resolve vir-erp-pilot2019, please check your network
java.net.UnknownHostException: firstname: Name or service not known
источник

PA

Polina Azarova in Data Engineers
какого размера диски под journalnode ставят? Тб хватит?)
блоков под 100 лямов
источник

S

Stanislav in Data Engineers
Дмитрий Демитов
Доброго времени суток!

Не стартует Timeline service V2.0 reader, переименовал namenode (firstname -> namenode01), хотя он и до этого не стартовал, но сейчас в логах в определенный момент он пишет, что не может подключиться к хосту со старым именем, у меня есть предположение что где-то в базе Zookeeper указано старое имя, но где и как посмотреть ни как не разберусь

ну и кусок лога:

2019-07-05 16:56:02,560 INFO  [ReadOnlyZKClient-namenode01-hadoop.mydomain.local:2181@0x757277dc] zookeeper.ZooKeeper: Initiating client connection, connectString=namenode01-hadoop.mydomain.local:2181 sessionTimeout=90000 watcher=org.apache.hadoop.hbase.zookeeper.ReadOnlyZKClient$$Lambda$13/2079527777@1ac92422
2019-07-05 16:56:02,612 INFO  [ReadOnlyZKClient-namenode01-hadoop.mydomain.local:2181@0x757277dc-SendThread(namenode01-hadoop:2181)] zookeeper.ClientCnxn: Opening socket connection to server namenode01-hadoop/192.168.10.66:2181. Will not attempt to authenticate using SASL (unknown error)
2019-07-05 16:56:02,628 INFO  [ReadOnlyZKClient-namenode01-hadoop.mydomain.local:2181@0x757277dc-SendThread(namenode01-hadoop:2181)] zookeeper.ClientCnxn: Socket connection established, initiating session, client: /192.168.10.66:55148, server: namenode01-hadoop/192.168.10.66:2181
2019-07-05 16:56:02,657 INFO  [ReadOnlyZKClient-namenode01-hadoop.mydomain.local:2181@0x757277dc-SendThread(namenode01-hadoop:2181)] zookeeper.ClientCnxn: Session establishment complete on server namenode01-hadoop/192.168.10.66:2181, sessionid = 0x16bc079899903d3, negotiated timeout = 60000
2019-07-05 16:56:03,280 WARN  [main] client.ConnectionUtils: Can not resolve vir-erp-pilot2019, please check your network
java.net.UnknownHostException: firstname: Name or service not known
хдп 3?
источник

ДД

Дмитрий Демитов in Data Engineers
да
источник

S

Stanislav in Data Engineers
Polina Azarova
какого размера диски под journalnode ставят? Тб хватит?)
блоков под 100 лямов
хватит
источник

S

Stanislav in Data Engineers
блок - 125 байт вроде
источник

PA

Polina Azarova in Data Engineers
спасибо)
у нас 256 Mb, но там же не сам блок хранится, а его адрес по сути?
источник

PA

Polina Azarova in Data Engineers
я подумала, что если в оперативе неймноды умещается, то и на диске уместится)
источник

ДД

Дмитрий Демитов in Data Engineers
Stanislav
хдп 3?
Он самый 3.1.0
источник

S

Stanislav in Data Engineers
Polina Azarova
спасибо)
у нас 256 Mb, но там же не сам блок хранится, а его адрес по сути?
в журнал ноде вроде лог хранится
посмотри сколько он занимает на текущем кластере
источник

S

Stanislav in Data Engineers
там мелочевка
источник

S

Stanislav in Data Engineers
Дмитрий Демитов
Он самый 3.1.0
корявый кусок куска он )
можешь пробежаться здесь глазами и посмотреть что навертели хортоны https://hadoop.apache.org/docs/current/hadoop-yarn/hadoop-yarn-site/TimelineServiceV2.html#Enable_the_coprocessor
амбари тоже кривой
источник

ДД

Дмитрий Демитов in Data Engineers
Stanislav
корявый кусок куска он )
можешь пробежаться здесь глазами и посмотреть что навертели хортоны https://hadoop.apache.org/docs/current/hadoop-yarn/hadoop-yarn-site/TimelineServiceV2.html#Enable_the_coprocessor
амбари тоже кривой
А кто не кривой? Мягко говоря я новичок в этом и моя задача стоит в администрировании этого зоопарка :)
источник

A

Alex in Data Engineers
Весь хадуп это какаха :) а мы в этом всем сантехники
источник