Size: a a a

2019 July 08

E

Evgeny in Data Engineers
Alex
Весь хадуп это какаха :) а мы в этом всем сантехники
Ассенизаторы
источник

A

Alex in Data Engineers
Не, это если ты админишь,

А если пайплайны делаешь, то сантехник, трубы чинишь
источник

ДД

Дмитрий Демитов in Data Engineers
Возвращаясь к моим баранам :) кто-нибудь знает как можно конфиг HBase в базе Zookeeper изменить/удалить?
Просто ощущение, что именно зукипер подсовывает старое имя хоста
источник

S

Stanislav in Data Engineers
Дмитрий Демитов
Возвращаясь к моим баранам :) кто-нибудь знает как можно конфиг HBase в базе Zookeeper изменить/удалить?
Просто ощущение, что именно зукипер подсовывает старое имя хоста
rmr /hbase-unsecure
источник

EN

Eldar Nezametdinov in Data Engineers
@xhumanoid подскажи пожалуйста, а shc ты вообще используешь при работе с hbase? Или например hbase4s, если не секрет?
источник

A

Alex in Data Engineers
Нет, я обычно с чистой java ходил, серверные приложения, без спарков

На последнем месте у нас был спарк с hbase, но там тоже без этого обходились, так как ещё с rdd работали для процессинга
источник

EN

Eldar Nezametdinov in Data Engineers
Ок, спасибо!)
источник

S

Stanislav in Data Engineers
Дмитрий Демитов
Возвращаясь к моим баранам :) кто-нибудь знает как можно конфиг HBase в базе Zookeeper изменить/удалить?
Просто ощущение, что именно зукипер подсовывает старое имя хоста
Вот только эта шалабушка по умолчанию в хдп не использует чбейз сервис, а поднимает внутренний инстанс, насколько я помню.  Как ихний мониторинг
источник

ДД

Дмитрий Демитов in Data Engineers
Stanislav
Вот только эта шалабушка по умолчанию в хдп не использует чбейз сервис, а поднимает внутренний инстанс, насколько я помню.  Как ихний мониторинг
Да, она свой HBase поднимает, как отдельного сервиса его я не ставил
источник

AS

Andrey Smirnov in Data Engineers
Eldar Nezametdinov
@xhumanoid подскажи пожалуйста, а shc ты вообще используешь при работе с hbase? Или например hbase4s, если не секрет?
Мы использовали в спарке shc (была написана обертка над ним)
источник

a

agathis in Data Engineers
Кто что использует для деплоя схемы HBase? Что-нибудь в духе liquibase?
источник

AZ

Anton Zadorozhniy in Data Engineers
agathis
Кто что использует для деплоя схемы HBase? Что-нибудь в духе liquibase?
Просто скрипт на груви, там «схема» же громкое слово: список CF и конфигурации
источник
2019 July 09

VS

Valeriy Shinkevich in Data Engineers
Eldar Nezametdinov
@xhumanoid подскажи пожалуйста, а shc ты вообще используешь при работе с hbase? Или например hbase4s, если не секрет?
Shc-core ? Мы используем...
источник

a

agathis in Data Engineers
Anton Zadorozhniy
Просто скрипт на груви, там «схема» же громкое слово: список CF и конфигурации
Ну да. А потом добавление cf. А потом изменение конфигураций.  Сделать-то не очень сложно, но вдруг этот велосипед уже кто-то изобрел?
источник

N

Nata in Data Engineers
Привет. Ткните пожалуйста носиком. На датанодах стейджинга начало исчерпываться 80% места на дисках. Есть какой-то параметр, как на ярне, чтобы отодвинуть это порог? я амбари обшарила и не нашла.
источник

N

Nata in Data Engineers
и в доке не нашла 😕
источник

E

Evgeny in Data Engineers
Rm skiptrash?
источник

N

Nata in Data Engineers
эмм, всё что можно было удалить, я уже удалила )
источник

EN

Eldar Nezametdinov in Data Engineers
Данные нормально распределены ? 80% по кластеру?
источник

N

Nata in Data Engineers
да, уже на всех подползает к 80, но практически оставшиеся 20% это еще несколько терабайт на каждой ноде 🙈
источник