Size: a a a

2019 October 01

C

Cyberdine Engineering🐤 in Scrapy
при чем, результат работы кол бека выводится в консоль в нормальном виде, но уже после того как отработал parse
источник

C

Cyberdine Engineering🐤 in Scrapy
т.е. асинхронщина на всю площать головы
источник

К

Кирилл in Scrapy
что такое retry_parse_exception?
источник

C

Cyberdine Engineering🐤 in Scrapy
это моя самодельная затычка
источник

C

Cyberdine Engineering🐤 in Scrapy
если response.status != 200:
   return self.retry(response)
источник

К

Кирилл in Scrapy
Если опираться на твои слова, то xpath не выполняется, потому что тот ответ не завершается
источник

C

Cyberdine Engineering🐤 in Scrapy
и в ретри вшит граббер новой прокси. т.е. повторить с новой проксей
источник

К

Кирилл in Scrapy
ты уверен, что там 200, а не бесконечный цикл
источник

C

Cyberdine Engineering🐤 in Scrapy
Кирилл
ты уверен, что там 200, а не бесконечный цикл
нет но работало норм, пока не появилась необходимость парсить вложенную страницу
источник

C

Cyberdine Engineering🐤 in Scrapy
внутри текущего паука
источник

К

Кирилл in Scrapy
убери этот декоратор и дай нормально отработать что б ошибки вывелись
источник

К

Кирилл in Scrapy
вангую, что там не 200
источник

C

Cyberdine Engineering🐤 in Scrapy
Кирилл
вангую, что там не 200
так в этом и суть. еслин е 200, он идет, берет рандумную проксю и повторяет запрос
источник

C

Cyberdine Engineering🐤 in Scrapy
и так пока не найдется прокся с которой отработает
источник

К

Кирилл in Scrapy
И это заканчивается? находится прокся которая 200 возвращает, или все по кругу идут? что в логах
источник

C

Cyberdine Engineering🐤 in Scrapy
так как скрепи асинхронен, то проблем это не создает. эта штука норм работала
источник

C

Cyberdine Engineering🐤 in Scrapy
Кирилл
И это заканчивается? находится прокся которая 200 возвращает, или все по кругу идут? что в логах
каждая страница должна дать 200
источник

C

Cyberdine Engineering🐤 in Scrapy
если прокся умерает, ее банят например. ретри берет новую
источник

К

Кирилл in Scrapy
Должна или даёт?
источник

C

Cyberdine Engineering🐤 in Scrapy
дает
источник