Size: a a a

2019 July 24

АЖ

Андрей Жуков in Data Engineers
источник

AZ

Anton Zadorozhniy in Data Engineers
Ну нормальный вариант mssql + redis, сделать умный клиент (или сервис-обертку) который просто держит кэш в редисе, и можно жить без редиса который мучается диском
источник

S

Stanislav in Data Engineers
а где еще кроме редиса есть битмапы для хранения?
как то жлобит терять на вместо 1 бита байт
источник

AZ

Anton Zadorozhniy in Data Engineers
я не помню явных битовых операций больше нигде, обычно используют какую-нибудь хорошую легковесную серализацию, вроде месседжпака
источник

EA

Evgeny A in Data Engineers
Подскажите пожалуйста, каким метрикам apache hive следует уделять особое внимание? (навесить триггеры в заббиксе)
источник

S

Stanislav in Data Engineers
Anton Zadorozhniy
я не помню явных битовых операций больше нигде, обычно используют какую-нибудь хорошую легковесную серализацию, вроде месседжпака
спс, посмотрю
а то в редисе 2 млн строк с 2000 полей занимает меньше гигабайта
источник

ЮБ

Юрий Бадальянц in Data Engineers
Всем привет. Есть ли где-то дока, в которой описаны все опции, которые можно проставить при чтении json файлов в спарке? Когда spark.read.format("json").option(...) делаешь?
источник

AP

Alexander Piminov in Data Engineers
Nikita Blagodarnyy
Граждане-одмены, подскажите, в какую сторону смотреть. Половина служб в амбари с красными критическими алертами, ошибка везде одна и та же, connection refused to <random_node>:<random_port>
Если не рассосалось, то можешь ли ты в YARN запустить что-то (Hive запрос, который потребует запуск TEZ, Spark задачу и т.п.), видишь ли ты ноды в Ambari, агенты в порядке?
источник

N

Nikita Blagodarnyy in Data Engineers
Alexander Piminov
Если не рассосалось, то можешь ли ты в YARN запустить что-то (Hive запрос, который потребует запуск TEZ, Spark задачу и т.п.), видишь ли ты ноды в Ambari, агенты в порядке?
Hive норм отрабатывает. Спарк тоже. Ноды вижу, у агентов в логах ошибок нет.
источник

N

Nikita Blagodarnyy in Data Engineers
Slider вот не заводится.
источник

S

Stanislav in Data Engineers
а откуда слайдер то
источник

S

Stanislav in Data Engineers
он же помер
источник

AP

Alexander Piminov in Data Engineers
У него Arenadata
источник

AP

Alexander Piminov in Data Engineers
источник

AP

Alexander Piminov in Data Engineers
Nikita Blagodarnyy
Hive норм отрабатывает. Спарк тоже. Ноды вижу, у агентов в логах ошибок нет.
А лампочки по connection refused все горят?
источник

N

Nikita Blagodarnyy in Data Engineers
Stanislav
а откуда слайдер то
Кибениматика свои таски датакаталожные под ним запускает
источник

N

Nikita Blagodarnyy in Data Engineers
В Бангалоре ещё, видимо, не помер
источник

S

Stanislav in Data Engineers
Alexander Piminov
У него Arenadata
аа, точно
там он еще жив
источник

N

Nikita Blagodarnyy in Data Engineers
Alexander Piminov
А лампочки по connection refused все горят?
Нет. HDFS, YARN, MapReduce, Зоодержатель
источник

N

Nikita Blagodarnyy in Data Engineers
Как-будто стоечный свитч просто рандомно половину пакетов дропает. Ребутнешь другие службы-на них тоже загорится.
источник