Size: a a a

2021 June 15

IP

Ivan Pushin in Scrapy
ок, спасибо, изучу этот вопрос детальнее
источник

М

Мур in Scrapy
Имел ли кто нить дело с планировщиком запросов?
источник

М

Мур in Scrapy
Хочу в случае если мне забанили с одного прокси, закинуть этот URL в конец очереди запросов, и что бы он выполнился с нового ip и с особой осторожностью)
источник

МС

Михаил Синегубов... in Scrapy
> что бы он выполнился с нового ip
он и выполнится, скорее всего, с нового IP, если ротатор использовать
>с особой осторожностью
это значит "потихонечку, что бы никто не заметил"? :), это вообще хз, как реализовать :))

https://github.com/TeamHG-Memex/scrapy-rotating-proxies
за другие ротаторы не скажу, у этой точно есть повторов, если прокся забанена (повторов с новой рандомной проксей)
источник

P

Pavel in Scrapy
Есть сайт, на котором бесконечный скроллинг страницы (React).

XHR запрос для получения новых данных выглядит вот так:

https://mstdn.social/api/v1/accounts/5168/followers?max_id=966705
                                                                                           ....max_id=964358

Совершенно не понятно, откуда берется max_id ?
Возможно это типовой случай, и уже кто - то сталкивался. Если нет, извините за беспокойство.



На всякий случай зарегал акк, возможно кто - то пожелает сам взглянуть:
login: seriyed350@gocasin.com
password: seriyed350

*add
https://mstdn.social/web/accounts/5168/followers
источник

МС

Михаил Синегубов... in Scrapy
скорее всего, это последний ID в предыдущих данных
источник

P

Pavel in Scrapy
Точно нет. Такого ID в предыдущих данных нет
источник

МС

Михаил Синегубов... in Scrapy
дай ссылку, что бы запрос глянуть
источник

P

Pavel in Scrapy
источник

МС

Михаил Синегубов... in Scrapy
источник

МС

Михаил Синегубов... in Scrapy
"Наберут по объявлению...."©
источник

МС

Михаил Синегубов... in Scrapy
😀
источник

МС

Михаил Синегубов... in Scrapy
а вообще, я сам в афиге, ни разу не видел пагинацию через заголовки
источник

AR

Andrey Rahmatullin in Scrapy
😕
источник

МС

Михаил Синегубов... in Scrapy
чего? 👀
источник

AR

Andrey Rahmatullin in Scrapy
Ну странная хрень
источник

DO

Daniil Okhlopkov in Scrapy
защита от тупых парсеров)
источник

OS

Oleg Shleiko in Scrapy
от тупых писателей парсеров 😂
источник

МС

Михаил Синегубов... in Scrapy
Любая защита, когда ее расковыряешь, кажется "защитой от тупых"
источник

DO

Daniil Okhlopkov in Scrapy
ага, приятно сделать себе приятно)
источник