Size: a a a

2020 April 25

AR

Andrey Rahmatullin in Scrapy
я не это спрашивал
источник

AR

Andrey Rahmatullin in Scrapy
что у тебя есть дикт я уже понял, а сервер что ждёт?
источник

D

D in Scrapy
Если открыть эту  (https://metro.zakaz.ua/uk/buckwheat/ ) страницу, контент не загружается в скрапи.

Я нашёл один пост запрос, который в реквесте содержит данные, которые я выше отправил
источник

D

D in Scrapy
Я решил эмитировать этот процесс, но наткнулся на то, что скрапи дикт не принимает
источник

AR

Andrey Rahmatullin in Scrapy
ну так и запрос не дикт шлёт
источник

AR

Andrey Rahmatullin in Scrapy
ну да, джсон там
источник

AR

Andrey Rahmatullin in Scrapy
делай из дикта джсон
источник

AR

Andrey Rahmatullin in Scrapy
ну и хедеры выставлять конечно
источник

D

D in Scrapy
Andrey Rahmatullin
делай из дикта джсон
Это JsonRequest надо ?
источник

AR

Andrey Rahmatullin in Scrapy
нет
источник

AR

Andrey Rahmatullin in Scrapy
это import json надо, как везде в питоне
источник

AR

Andrey Rahmatullin in Scrapy
ну можно и JsonRequest наверно
источник

D

D in Scrapy
Ок, спасибо большое!
источник

VZ

Vladislav Zadorozhnii in Scrapy
Ребят, натолкнулся на проблему, пробовал парсить yelp.com и словил бан. Не получалось подключить user_agent и proxy, я решил попробовать ROBOTSTXT_OBEY = False и видимо после 150 запросов начал получать 503 ошибку. Что в таких ситуациях можно сделать, подскажите пожалуйста?
источник

М

Мак in Scrapy
Паниковать
источник

К

Кирилл in Scrapy
Использовать прокси. Елп банит или навсегда или надолго
источник

VZ

Vladislav Zadorozhnii in Scrapy
Спасибо, но я вроде перепробовал много разных и почему-то ни один не подходил, с чем это может быть связанно?
источник

К

Кирилл in Scrapy
С тем что они уже забанены
источник

К

Кирилл in Scrapy
Покупай приватные
источник

VZ

Vladislav Zadorozhnii in Scrapy
ааа
источник