Size: a a a

2021 May 04

m

memchik in Scrapy
Понял, спасибо большое, просто я таким занимаюсь не часто, а тут попросили, т.к. вручную человек 100 картинок скачивал😂
источник

П

Пастырь in Scrapy
Ребят, а как я могу остановить crawl по условию? Допустим возникла ошибка и дальше нет смысла парсить ?
источник

H

Harsh in Scrapy
источник

П

Пастырь in Scrapy
Спасибо!
источник

H

Harsh in Scrapy
You could use close spider signal
источник

МС

Михаил Синегубов... in Scrapy
сразу отмечу, потом не паниковал, оно посылает сигнал закрытия, но, все что уже успело отправить (запросы) дождется и обработает. Т.е. закроется не мгновенно.
Часто насчет этого задают вопросы "а почему долго закрывает"
источник

П

Пастырь in Scrapy
Да это то понятно
источник

AA

An Allford in Scrapy
Всем привет, может кто-то юзал что-то уже для управлениями сессиями (сохранения/извлечения).
Меня интересует скрапинг от пользователей. Чтобы я один раз залогинился и дальше юзал сессию при последующих запусках, пока она не истечёт. Из нормального нашёл вроде вот эту штуку
https://github.com/ThomasAitken/scrapy-sessions
подойдёт она?
источник
2021 May 05

ΔΧ

Δαηιιλ о҉ Χαριμκ... in Scrapy
и я получаю некую страницу с js, который ума не приложу как дальше выполнить, чтоб получить нужный json
я до этого уже доходил через copy as fetch
https://ghostbin.co/paste/z2s2yjj
источник

B

Bulatbulat48 in Scrapy
Может не тот запрос смотришь? Ты получаешь страницу с фингерпринтом. Поставь в хроме на скрипте брейкпоинт и попробуй вбить window.location.href
источник

AA

An Allford in Scrapy
Никому чтоль за всё время не понадобился подобный функционал?
источник

AR

Andrey Rahmatullin in Scrapy
я тоже не очень понял зачем https://github.com/ThomasAitken/scrapy-sessions и поудивлялся написанным там клеймам
источник

AR

Andrey Rahmatullin in Scrapy
но раз его сделали только на днях, значит правда никому не надо
источник

AR

Andrey Rahmatullin in Scrapy
разве что про вторую проблему тут иногда жалуются
источник

МС

Михаил Синегубов... in Scrapy
люди, подскажите нубятине, как asyncio  подключить?
в сеттингах прописал
TWISTED_REACTOR = "twisted.internet.asyncioreactor.AsyncioSelectorReactor"

матириться:
TypeError: SelectorEventLoop required, instead got: <ProactorEventLoop running=False closed=False debug=False>


Twisted==21.2.0

@wrar42 ты вроде мержил поддержку 21 версии твистеда...
куда бечь? памагиииитеее🥺
источник

AR

Andrey Rahmatullin in Scrapy
где-то реактор импортится раньше чем скрапи его выставит
источник

AR

Andrey Rahmatullin in Scrapy
версия твистеда не важна вроде
источник

AR

Andrey Rahmatullin in Scrapy
хотя если это венда то я навсидку не помню, слишком много переменных
источник

AR

Andrey Rahmatullin in Scrapy
а, про лупы же, не про реакторы
источник

AR

Andrey Rahmatullin in Scrapy
источник