Size: a a a

2017 December 28

П

Павел Максимов in Airflow
скиньте потом видео
источник
2017 December 29

П

Павел Максимов in Airflow
Всем привет. Подскажите пожалуйста, нужно условие, выполнять экземпляр задачи, если экземпляр за предыдущий период выполнен успешно. Из описания параметров нашел что-то похожее
depends_on_past
wait_for_downstream
источник

OI

Oleg Ilinsky in Airflow
wait_for_downstream - это ожидание завершения предыдущих тасков в этом же даге (к которым выставлены зависимости).
источник

OI

Oleg Ilinsky in Airflow
здесь второй сенсор выполнится только после выполнения первого
источник

OI

Oleg Ilinsky in Airflow
а вот depends_on_past - это таск не запустится, пока успешно не отработает он же за предыдущий период
источник

П

Павел Максимов in Airflow
Oleg Ilinsky
а вот depends_on_past - это таск не запустится, пока успешно не отработает он же за предыдущий период
тогда это подходит, спасибо!
источник

П

Павел Максимов in Airflow
Oleg Ilinsky
здесь второй сенсор выполнится только после выполнения первого
тут вопрос возникает, ведь по умолчанию trigger_rule стоит, что не выполнять, пока предыдущие таски не отработают, в чем разница тогда?
источник

OI

Oleg Ilinsky in Airflow
если wait_for_downstream выставить в False, то не будет таск не будет ожидать завершения предыдущих. Зачем это нужно, я не знаю)
источник

OI

Oleg Ilinsky in Airflow
Еще есть ExternalTaskSensor. Его можно натравить не только на таск в другом даге, но и на разницу во времени
источник

OI

Oleg Ilinsky in Airflow
источник

OI

Oleg Ilinsky in Airflow
Теоретически, наверное, можно даже на какой-нибудь таск из того же дага, где этот сенсор.
источник

YE

Yury Emelyanov in Airflow
Oleg Ilinsky
Теоретически, наверное, можно даже на какой-нибудь таск из того же дага, где этот сенсор.
У нас так сделано. Контроль непересикаемости работы цепочек одного дага в разных датах.
источник

П

Павел Максимов in Airflow
Oleg Ilinsky
Еще есть ExternalTaskSensor. Его можно натравить не только на таск в другом даге, но и на разницу во времени
depends_on_past не подойдет, а вот ExternalTaskSensor думаю подойдет, попробую настроить на себя же, за предыдущую дату
источник

П

Павел Максимов in Airflow
Ребят, вне таска возможно получить дату исполения, для использования в другом месте?
источник

П

Павел Максимов in Airflow
динамическую генерацию тасков надо привязать к дате исполнения
источник

OI

Oleg Ilinsky in Airflow
По-моему таски генерить внутри самого дага нельзя. Они генерятся в момент рендеринга, т.е. 1 раз, а потом выполняются.
источник

OI

Oleg Ilinsky in Airflow
Или я как-то не так понял вопрос.
источник

МС

Максим Сёмочкин in Airflow
Oleg Ilinsky
По-моему таски генерить внутри самого дага нельзя. Они генерятся в момент рендеринга, т.е. 1 раз, а потом выполняются.
Ага. Тоже об это обожглись. Очень хотелось динамически генерить таски.
источник

П

Павел Максимов in Airflow
вопрос в том, что мне нужно получить дату исполнения
источник

OI

Oleg Ilinsky in Airflow
ну это либо '{{ ds }}' там, где рендерится, либо kwargs["execution_date"] в каком-нибудь python operator
источник