Size: a a a

2021 October 27

I

Igor in Airflow
по счастливой случайности в поле овнер будет лежать значение совпадающее с тем кто является хозяином этого лог-эвента
источник

EP

Eugeny Prochan in Airflow
Ааа, хозяин лог эвента ) ок, а я зацепился за название owner.
источник

N

Nikita in Airflow
Дратути
Есть даг, который может периодически работать в несколько раз дольше, и не так критично, если 1-2 запуска будет пропущено. В старых версиях новые запуски создавались только после завершения активного запуска (max_active_runs=1, catchup=False, depends_on_past=False), но с последних версий (ориентировочно с 2.1.3) эйрплов стал в процессе работы дага создавать будущие даграны в статусе queued, и тем самым создавать очередь, которую не может нагнать. Можно ли какой-нибудь опцией включить поведение "как раньше"? Сходу ничего не нашел
источник

MK

Maga Koloev in Airflow
depends_on_past=true ?
источник

N

Nikita in Airflow
False
источник

MK

Maga Koloev in Airflow
ну если я правильно понял, надо выставить true
источник

N

Nikolai in Airflow
новая настройка появилась
источник

N

Nikolai in Airflow
# The maximum number of queued dagruns for a single DAG. The scheduler will not create more DAG runs
# if it reaches the limit. This is not configurable at the DAG level.
max_queued_runs_per_dag
источник

MM

Mikhail Mariufich in Airflow
Хочется как раз per dag
источник

N

Nikolai in Airflow
пишите фича реквест)
источник

A

Andrey in Airflow
Скажите, а что является плагином для Airflow? Кастомный оператор это плагин?
источник

GB

Georgy Borodin in Airflow
Кастомный оператор может быть объявлен и не в плагине, в целом в доке довольно подробное описание https://airflow.apache.org/docs/apache-airflow/stable/plugins.html
У плагинов, правда, есть (по крайней, мере для меня) один недостаток – добавить свой тип коннекшна можно только через написание провайдера
источник

EP

Eugeny Prochan in Airflow
Не совсем понял, что за недостаток такой. Ты про хуки? И вроде через описание хука можно добавить. И вообще ты про провайдеры, похоже, пишешь :)
источник

GB

Georgy Borodin in Airflow
Можно задать любой conn_type, но чтобы он отображался в UI (и не сбрасывался на другой при редактировании в UI же) придётся делать провайдера
источник

GB

Georgy Borodin in Airflow
источник

N

Nikita in Airflow
Спасибо, прям то что нужно
источник
2021 October 28

ES

Evgeny S in Airflow
Спам ныне процветает в чате.
источник

ВБ

Виталий Бикташев... in Airflow
@aniiid @sytkinmts @olin32e забаньте, пожалуйста
источник

I

Ivan in Airflow
Народ, что я делаю не так? Активирую виртуальное окружение, инициализирую БД, запускаю вебсервер, запускаю scheduler. Всё это запускаю с &. Закрываю вкладку. И Даг не пашет. Scheduler отваливается
источник

I

Ivan in Airflow
Еще такая ошибка появляется OSError: [Errno 5] Input/output error если попытаться почистить даг
источник