котята, я пока ещё полностью не разобрался, как работает scrapy и как в нём пробрасываюстя данные.
такая ситуация - хочу награбить товаров с магазина. есть два вида страниц, список товаров с пагинацией, и страница с товаром.
я написал два паука, которые хорошо выковывивают нужную информацию. первый паук проходит по всему списку товаров, собирает первую грубую инфу и ссылки на товар. второй паук по ссылке на товар уже забирает нужные детали. вопрос в том, как лучше бы завязать этих пауков на совместную работу.
в идеале я хочу что-то такое: первый паук делает обход, его результаты скидываются в базу, и если товара ещё нет в базе, то ссылка на товар скидывается в очередь второго паука. в какой части scrapy стоит прописывать подобную логику?