Size: a a a

2021 August 08

ПФ

Паша Финкельштейн... in Moscow Spark
Пускай в бд правят
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Получится тот же Авро реджистри но для чего угодно
источник

G

Gev in Moscow Spark
Согласен. Идея именно такая. Просто я думал что есть уже какой то готовый инструмент
источник

G

Gev in Moscow Spark
Не авро 🙂
источник

G

Gev in Moscow Spark
А вот Apache Atlas я краем уха слышал что то такое может
источник

G

Gev in Moscow Spark
Я не видел его ни разу живьем. и что за зверь но мне казалось что это такой какраз инструмент
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Очень оверкилл
источник

ПФ

Паша Финкельштейн... in Moscow Spark
И он страшный
источник

G

Gev in Moscow Spark
Ну да. Согласен. Потому пока не копал в эту сторону. Думал есть что то уже готовое и как я писал - попроще
источник

G

Gev in Moscow Spark
В общем. Закатываем рукава и пишем собственный framework
источник

AS

Alexander Shorin in Moscow Spark
@hachhll а можешь чуть раскрыть кейс? у нас вот тоже аналитики, но они умеют править схемы через git, в остальном всё просто и однообразно. Какую проблему вы решаете, что вот прям нужен какой-то фреймворк или ещё чего?
источник

G

Gev in Moscow Spark
Git не проблема. И аналитики у нас если и не умеют то научить не сложно. Но далее идет процесс ci/cd
И он не простой. Разбит на несколько этапов и каждый требует согласования. То есть это не то что взял закомитил и пошло в Пром
источник

G

Gev in Moscow Spark
А кейс такой.
Изминился аттрибут в источнике - меняем в интерфейсе и он применяется в схеме чтения данных паркета
источник

G

Gev in Moscow Spark
Или даже так - требуем от тех аналитиков кто отвечает за источники менять аттрибуты и у нас и все. Мы читаем данные паркета с актуальными схемами. Причем тут еще и история изменений аттрибутов крайне важна а потому простой комит в git - плохое решение
источник

D

Dmitry in Moscow Spark
у нас json который maven подбирает при сборке проекта и генерит классы схем, которыми код читает и пишет
источник

G

Gev in Moscow Spark
Ну это на уровне сборки проекта. А потом. Что то поменялось в проме.
источник

G

Gev in Moscow Spark
У нас часто бывает что мы актуальные данные только в проме и имеем
источник

D

Dmitry in Moscow Spark
wtf пром ?
источник

NN

No Name in Moscow Spark
Так прод в Сбере кличут
источник

D

Dmitry in Moscow Spark
ну они же не могут взять и поменяться без вашего благословления. по любому тесты прогнать ... хотя если это сбер и не прод :)
источник