Size: a a a

2021 May 20

МС

Михаил Синегубов... in Scrapy
из старт реквест запрос проходит 100500 мидлварей  приходит в парсе
источник

A

Alex in Scrapy
🤯 ну, тогда самое простое - проверить, что из себя представляют словари data и {'cat': cat} перед передачей в JsonRequest, если тут все ок, то смотреть, что вообще приходит внутрь kwargs (его структуру) parse(). Если и тут все ок, то тогда ковырять все эти 100500 мидлварей... Ну или самый сложный и нелюбимый всеми путь - сделать тесты и насиловать уже их. Наверное, как-то так
источник

(

(o_O) in Scrapy
Можно еще по-старинке засунуть cat в meta, глядишь пройдет.
источник

МС

Михаил Синегубов... in Scrapy
спасибо, кеп, но с метой та же самая хрень
источник

(

(o_O) in Scrapy
Тады дебаж :)
источник

МС

Михаил Синегубов... in Scrapy
есть третий путь, на который я больше всего надеюсь, моих товаров почти в три раза больше эталонного списка 😂
так что, недостающая пара сотен позиций - пока клиент забьет...

но, сцука, куда они пропадают 🤬
источник

МС

Михаил Синегубов... in Scrapy
У меня, сейчас, так же как и с запросами, что до этого мучал.
Сейчас мне не обязательно, но, потом может на другом проекте "стать ребром"...
источник

МС

Михаил Синегубов... in Scrapy
если нарою в чем косяк - напишу....
источник

A

Alex in Scrapy
Все верно, лично я бы тоже долбил это 👍. Ведь рано или поздно может все равно коснуться...
источник

A

Alex in Scrapy
А у мидлварей нету что-то типа кнопочки bypass?
источник

A

Alex in Scrapy
Ну, т.е. отключить их все, чтобы не мешались, получить чистые данные, а потом постепенно по одному включать и смотреть на результат. Если там так можно...
источник

SK

Semyon Krutolevich in Scrapy
Благодарю
источник

МС

Михаил Синегубов... in Scrapy
можно, только часть функционала потеряестя :)
источник

S

SoHard 🎄 in Scrapy
а не
источник

S

SoHard 🎄 in Scrapy
отмена
источник

S

SoHard 🎄 in Scrapy
вот так всегда, сделаешь херню, напишешь в чат и потом удаляешь, потому что тупую ошибку сделал
источник

МС

Михаил Синегубов... in Scrapy
везучий
источник

А

Александр in Scrapy
Добрый день!
Не подскажите пример одного, двух production-ready процесс менеджера?
А то когда давно пытался гуглить, вышел только на Celery, который казался оверкиллом для моих целей.
В итоге проще оказалось реализовать самому некое подобие процесс менеджера, который в запросе принимает ссылку на парсинг и периодичность, записывает эту инфу в бд, асинхронно с sleep(период) запускает парсинг ссылки с заданной периодичностью и в случае перезапуска, подтягивает из бд инфу с ссылками и периодичностями и опять по ним в цикле проходится.
источник

AR

Andrey Rahmatullin in Scrapy
В этом веке первый ответ - systemd
источник

AR

Andrey Rahmatullin in Scrapy
Селери не совсем то
источник