Size: a a a

2021 July 14

АЖ

Андрей Жуков... in Data Engineers
Кстати, а есть у кого-нибудь годные ссылки по тестированию и версионированию SQL?
источник

АЖ

Андрей Жуков... in Data Engineers
в @datajobs позязя
источник

D

Den in Data Engineers
ага. и все модные компании пилят etl через sql - python джобы на airflow, а не информатика, ibm, sas и прочие инструменты
источник

АЖ

Андрей Жуков... in Data Engineers
Оркестрировать можно чем угодно вообще
источник

АЖ

Андрей Жуков... in Data Engineers
Хоть кроном
источник

AZ

Anton Zadorozhniy in Data Engineers
это было сколько себя помню, напрямую informatica/datastage и друзья использовались только в такой средней нише (ну или если СУБД не умеет нормально работать), на самых больших хранилищах они были планировщиками которые запускали SQL
источник

АЖ

Андрей Жуков... in Data Engineers
Хоть дженкинсом
источник

OI

Oleg Ilinsky in Data Engineers
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
крон топчик, чё начали то
источник

VS

Vladislav 👻 Shishkov... in Data Engineers
просто надо уметь его готовить для прода
источник

АЖ

Андрей Жуков... in Data Engineers
кубовые кронджобы понадежнее плова в кубах

прув ми ронг
источник

AZ

Anton Zadorozhniy in Data Engineers
тоже то еще удовольствие, учить его бэкфилу, всякие сенсоры делать
источник

АЖ

Андрей Жуков... in Data Engineers
ну это вопрос требований к оркестратору :)
источник

OI

Oleg Ilinsky in Data Engineers
ну кубовые кронджобы можно хоть как-то мониторить)
источник

AZ

Anton Zadorozhniy in Data Engineers
из крона можно сделать планировщик для датапайплайнов, но это скорее заготовка
источник

AZ

Anton Zadorozhniy in Data Engineers
Control-M FTW
источник

OI

Oleg Ilinsky in Data Engineers
потом получится yet another оркестратор))
источник

AZ

Anton Zadorozhniy in Data Engineers
так и бывает, да; тут история похожая с датакаталогами или SQL шаблонизаторами - проще написать свой, чем брать/платить и адаптировать чужое
источник

λ

λoλdog in Data Engineers
а еще есть марафон....
источник

АР

Андрей Романов... in Data Engineers
ещё такое нашёл: https://argoproj.github.io/
источник