Господа! Приветствую!
А никто не может подсказать как правильно организовывать работу с Scrapy - RabbitMQ? Хотелось бы увидеть пример работающего middleware и/или pipeline. Своими силами у меня получается как-то корявенько - очень часто теряется подключение по таймауту
я постепенно пришел к мысли, что нафиг я буду эти очереди сам реализовывать и последовательность задачек, и лучше взять pipeline framework, вида apache airflow или luigi и там примерно то, что мне надо встроить в текущую инфраструктуру