Size: a a a

2021 March 15

Oℕ

Oleg ℕizhnik in Data Engineers
Т.к. HANA это не совсем субд, это фактически сервер приложений совмещённый с memory first СУБД
источник

T

T in Data Engineers
K S
Дело в том, что руководство старорежимное, знают только perl, makefiles. Кто то им напел об оркестрации с помощью airflow, ну и вот вам ещё одна ветряная мельница.
Мы свое время на велосепедили вокруг дэйта паплайнов получилось дёшево и очень хорошо
источник

Oℕ

Oleg ℕizhnik in Data Engineers
В общем, если нужно с барскими данными интегрироваться, нужно просить барских специалистов по интеграции в SAP всё есть
источник

KS

K S in Data Engineers
T
Мы свое время на велосепедили вокруг дэйта паплайнов получилось дёшево и очень хорошо
На базе чего велосипедили?
источник

T

T in Data Engineers
K S
На базе чего велосипедили?
Data pipeline это сервес у Aws такой относительно старый, в купе с лямдами и cloudformation темплейтами даёт очень гибкий функционал
источник

T

T in Data Engineers
T
Data pipeline это сервес у Aws такой относительно старый, в купе с лямдами и cloudformation темплейтами даёт очень гибкий функционал
Но это уже олдскульный велосепед считается
источник

T

T in Data Engineers
Зато правда очень дешевый
источник

KS

K S in Data Engineers
T
Data pipeline это сервес у Aws такой относительно старый, в купе с лямдами и cloudformation темплейтами даёт очень гибкий функционал
Аа понял теперь
источник

AZ

Anton Zadorozhniy in Data Engineers
K S
Дело в том, что руководство старорежимное, знают только perl, makefiles. Кто то им напел об оркестрации с помощью airflow, ну и вот вам ещё одна ветряная мельница.
На мой взгляд у MWAA преимущества перед self-hosted больше энтерпрайзного характера (удобные интеграции с IAM прежде всего); я бы рекомендовал MWAA для миграции легаси с селф-хостед и он-према, ну или если надо быстро, но надежно и секурно, а для своих промышленных пайплайнов мб удобнее иметь решение на serverless стеке (хотя его нужно нормально разрабатывать)
источник
2021 March 16

KS

K S in Data Engineers
Anton Zadorozhniy
На мой взгляд у MWAA преимущества перед self-hosted больше энтерпрайзного характера (удобные интеграции с IAM прежде всего); я бы рекомендовал MWAA для миграции легаси с селф-хостед и он-према, ну или если надо быстро, но надежно и секурно, а для своих промышленных пайплайнов мб удобнее иметь решение на serverless стеке (хотя его нужно нормально разрабатывать)
Понятно. Спасибо за информацию.
У нас разработка с нуля и легаси нет, поэтому то меня и беспокоит переход от серверлесс к airflow dags.
источник

AZ

Anton Zadorozhniy in Data Engineers
Self-hosted airflow это, соотвественно, быстро но не так секурно
источник

AZ

Anton Zadorozhniy in Data Engineers
K S
Понятно. Спасибо за информацию.
У нас разработка с нуля и легаси нет, поэтому то меня и беспокоит переход от серверлесс к airflow dags.
Меня бы тоже беспокоил, кмк серверлесс стек идеально подходит для таких задач как решают планировщики, проблема только в том что там нет готовых решений и надо пилить всю логику планирования самим
источник

AZ

Anton Zadorozhniy in Data Engineers
Хотя зависит от того сколько воркфлоу, кто их пишет, как часто меняются
источник

АР

Андрей Романов... in Data Engineers
https://habr.com/ru/company/cloudera/blog/543902/

интересно, а кто-нибудь уже использовал?
источник

ПБ

Повелитель Бури... in Data Engineers
Логично hdfs устарел, даешь s3
источник

AB

Andrey Bel in Data Engineers
Повелитель Бури
Логично hdfs устарел, даешь s3
ну в РФ все раавно оч много крупных решений на хадуповских сборках он премис еще
источник

AB

Andrey Bel in Data Engineers
такой меинстрим))
источник

AS

Andrey Smirnov in Data Engineers
Andrey Bel
ну в РФ все раавно оч много крупных решений на хадуповских сборках он премис еще
а некоторые совсем не в восторге от minio и т.д., так что в местных реалиях он еще поживет
источник

AZ

Anton Zadorozhniy in Data Engineers
Andrey Smirnov
а некоторые совсем не в восторге от minio и т.д., так что в местных реалиях он еще поживет
у озона архитектура сильно лучше минио
источник

AS

Andrey Smirnov in Data Engineers
Anton Zadorozhniy
у озона архитектура сильно лучше минио
не спорю т.к. не знаю чем они архитектурно отличаются, вопрос про молодость технологий, они вроде только прошлой осенью зарелизись
источник