Size: a a a

2021 May 19

IK

Ilya Kozyrev in Data Engineers
Всем привет! Кто-то работал с SAP данными через OData? (Hana, BW)  Можно ли эффективно экстрактить данные через неё?
источник

AE

Alexey Evdokimov in Data Engineers
потому что это либо hosted jenkins, либо какое-то переусложнённое низкоуровневое говно, в котором надо долго и муторно разбираться :(
источник

AE

Alexey Evdokimov in Data Engineers
и в 99% случаев раннер (или екзекутор) (или агент) гоняется в докере, с которым всегда возникает дополнительная морока
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
Более менее адекватный подход у гитлаб 😬
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
Хотя последние их тенденции тоже спорные, закручевание на энтерпрайз и облака
источник

AM

Artem Muravlev in Data Engineers
Добрый день, господа.

Пытаюсь разобраться с oozie в Hortonworks hdp 2.6.5. При попытке запустить простую Spark джобу с записью в Hive подвисает, и не отпускает. В логах Ярна вижу 2 запущенных контейнера, одну от Оззи(mapreduce в статусе running), вторую от спарка(SPARK  в статусе running)

Лог моего приложения
Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient resources

Буду рад любой информации.
источник

ME

Mikhail Epikhin in Data Engineers
Надо в логи resource manager смотреть, выглядит так что мало ресурсов в yarn для запуска
источник

AM

Artem Muravlev in Data Engineers
Это логи Yarn
источник

AZ

Anton Zadorozhniy in Data Engineers
github actions?
источник

AZ

Anton Zadorozhniy in Data Engineers
он попроще, мне очень нравится Azure Pipelines (он может где угодно билды и тесты запускать, у нас на AWS гоняет)
источник

AM

Artem Muravlev in Data Engineers
источник

EM

Egor Mateshuk in Data Engineers
у вас видимо один контейнер - узи, один - драйвер спарка, а на экзекьютор спарка уже не хватило ресурсов. вот и висит. вам минимум 3 контейнера нужно
источник

AM

Artem Muravlev in Data Engineers
Спасибо, за ответы. А количество контейнеров увеличивать в самом ярне, или в oozie сконфигурировать ярн? Простите за нубство))
источник

AE

Alexey Evdokimov in Data Engineers
я уже выше кручинился по поводу цены. заказчик платит за ec2 cpu time, но не готов платить за дополнительный софт
источник

EM

Egor Mateshuk in Data Engineers
сколько у вас ядер на вашей машинке?
источник

AM

Artem Muravlev in Data Engineers
У меня 4 ядра, 8 потоков. Но я развернул в докере HDP)
источник

AM

Artem Muravlev in Data Engineers
Это ноутбук)
источник

AZ

Anton Zadorozhniy in Data Engineers
ужас какой, этож получается весь облачный прогресс мимо вас?
источник

AM

Artem Muravlev in Data Engineers
Памяти 32 гб
источник

EM

Egor Mateshuk in Data Engineers
зайдите в веб-морду ярна и пришлите скрин оттуда
источник