Size: a a a

2021 October 29

VS

Vadim Sukhanov in Airflow
А мы на прод деплоим только стабильный код который попадает в мастер, для всего остального тестовые стенды))

А как вы потом через пол года определяете из какой ветки был раскачен даг который  давно работает, его не замержили в мастер(не в курсе вашего гит флоу) и у которого почему то есть несколько версий в разных ветках ?
источник

VS

Vladislav 👻 Shishkov... in Airflow
ну оно есть в зачатках уже, по крайне мере, мы вот на дня отказались от постфиксов ввиде крона и теперь можно ренеймить и менять время без проблем
источник

I

Igor in Airflow
Нуу дааа, это хорошо
источник

VS

Vadim Sukhanov in Airflow
и проблем прям нет при смене start_date?
источник

VS

Vadim Sukhanov in Airflow
а версия какая?
источник

P

Pavel in Airflow
значит у вас хорошо, вам повезло, есть тестовый стенд и ресурсы на всё это. мы 2 года живем в проде без тестового стенда, деплоят на прод прототипы дагов, даже при желании небольшие даги потестировать на прод-кластере можно, по завершению работы даг вливается в мастер.
источник

VS

Vladislav 👻 Shishkov... in Airflow
речь про крон время
источник

VS

Vladislav 👻 Shishkov... in Airflow
со start_date там тоже вроде плюшку завезли в 2.1.4
источник

VS

Vadim Sukhanov in Airflow
сорян, не так прочитал))
источник

I

Igor in Airflow
От версионирования хочется же типа "запустить даг таким-то айди в таком-то диапазоне дат и такой версии" и потом в рендере в логах видеть структуру и логи и всё это соответствующей версии :))
источник

VS

Vladislav 👻 Shishkov... in Airflow
ну это как в майлстоунах, хочется да, но думаю не раньше 2.3
источник

VS

Vadim Sukhanov in Airflow
а, тогда ясно, у вас прод это большой полигон для боли))
источник

I

Igor in Airflow
Ну вот, да

И моё ментальное искажение относительно сериализации это как раз типа "ну раз версионирования нет то и сериализация пока что бесполезна"

Конечно, это неадекватно и понятно что это разная функциональность, но на то оно и искажение :D
источник

VS

Vladislav 👻 Shishkov... in Airflow
Ну не, сериализация с историей связана очень слабо, там свои плюсы, как и минусы
источник

P

Pavel in Airflow
да, мы выбрали свой путь 🙂 деплой дага - это каждому на свой вкус и цвет, хочешь зип, хочешь по файлу деплой.
источник

VS

Vadim Sukhanov in Airflow
Ну да, я не говорю что наш вариант истинно верный, мы к нему пришли эволюционным путем и это то чем мы вцелом довольны на текущий момент.
источник

P

Pavel in Airflow
совершенно верно, если это работает, то значит стратегия +- правильная выбрана была)
сильно зависит от других факторов: где у вас это всё работает, на кубе или просто в докере на железках, есть ли HPA и пр. механики
источник

VS

Vadim Sukhanov in Airflow
как раз в докладе мы и рассказывали свою историю))

раньше это был докер компоуз на отдельных виртуалках(1 прод и 4 тестовых стенда), сейчас прод + пофичные тестовые стенды на кубере с управляемым временем жизни стенда))
источник

АП

Аркадий Паровозов... in Airflow
привет всем!
Кто-нибудь сталкивался с подобным поведением дагов?
источник

I

Igor in Airflow
либо trigger rule потерялся либо что-то накручено с depends_on_past/wait_for_downstream либо всё вместе
источник