Size: a a a

2021 October 17

ДН

Дмитрий Негреев... in Airflow
логи воркера смотрите
источник

AC

Anton Chabanets in Airflow
Только traceback с dag_id could not be found. Причем таска сразу становиться failed, не идет в ретрай. Триггерю руками после этого - все в порядке.
источник

AD

Andrei Dirotchka in Airflow
А on_failed это только свойство tasks? На task group его не повесить?
Ситуация такова, что задачи на отработку сбоя в разных частях dag разные. Через task group можно собрать группы.
источник

I

Igor in Airflow
Кажется на таск группу нельзя, но можно на таски просто. Если у тебя таскгруппа уже внутри функции создаётся, то удобно туда закинуть аргументы для операторов внутри, например
источник

AP

Abi Palagashvili in Airflow
привет, можете подсказать, как организовать CI/CD для airflow с Celery Executor и gitlab?
источник

n

noname in Airflow
А где живёт аирфлоу?
источник
2021 October 18

S

Sebastian in Airflow
У меня в докере
источник

М

Михаил in Airflow
Доброе утро.
Подскажите плиз. Airflow 2.1.4 установлен локально на сервере, подключаюсь через MobaXterm запускаю шедулер и когда закрываю окно, шедулер так же перестает работать, с вебсервером такой проблемы нет, может где-то в конфиге что-то прописано?
источник

I

Igor in Airflow
Не, это просто надо чтобы всё нормально было запускать как сервис типа. С вебсервисом видимо там внутренний механизм который тебе терминал отпускает.

Ты можешь попробовать запустить щедудер (а лучше и вебсервер) внутри сессии tmux, это не совсем "правильно", но относительно просто
источник

I

Igor in Airflow
Вот тут типа гайд по тмуксу. Эта штука внутри твоего соединения создаёт свои как бы отдельные подключения, к которым ты можешь потом подключаться даже если соединение с сервером разрывалось. К аирфлоу отношения не имеет, просто никсовая тула https://www.hamvocke.com/blog/a-quick-and-easy-guide-to-tmux/
источник

М

Михаил in Airflow
Спасибо за совет, пока оставлю про запас)) Все таки мне кажется это не совсем правильным, что шедулер так запускается
источник

A

Alex in Airflow
запустите через nohup
источник

М

Михаил in Airflow
Запустил так airflow scheduler -D
источник

М

Михаил in Airflow
Все оказалось проще
источник

d

d.sky in Airflow
Кто-нибудь использует airbyte? Поделитесь, пож-та, как оно?
источник

R

Rustem in Airflow
Привет всем!
Подскажите пожалуйста можно ли в airflow добиться параллельного исполнения дагранов?
Например я ставлю start_date ='2021-06-01' и запуск каждый месяц, и если бы я сегодня запустил этот даг то получил бы 5 параллельно запущенных даг ранов за 6,7,8,9,10 месяца. Такое возможно?
источник

I

Igor in Airflow
Да, можно если автоматом то через catchup, вот тут в доках описано https://airflow.apache.org/docs/apache-airflow/stable/dag-run.html#catchup
источник

R

Rustem in Airflow
Я понимаю что catchup запустит из прошлого.
источник

R

Rustem in Airflow
Меня интересует именно что все эти даграны выполнялись параллельно
источник

N

Nikolai in Airflow
вроде так и работает из коробки
источник