Size: a a a

2020 March 06

AR

Andrey Rahmatullin in Scrapy
не в кронтабе, а в скрипте
источник

М

Мак in Scrapy
подмогните а то гикнусь уже....
источник

AR

Andrey Rahmatullin in Scrapy
видно же что не в кронтабе дело, что скрипт и руками не работает
источник

AR

Andrey Rahmatullin in Scrapy
Andrey Rahmatullin
ну и если скрипт запускает скрапи сабпроцессом, там тоже
а вообще я про это писал
источник

AR

Andrey Rahmatullin in Scrapy
Мак
(myvenv) root@ubuntu-2gb-hel1-1:/deploy/myvenv/head_hunter/hhunter/hhunter/spiders# python3 start.py
руками запуск вот такой...
тут ещё и запуск из активированного венва, чего конечно в кроне не будет
источник

М

Мак in Scrapy
ставить питон3 в систему?
источник

AR

Andrey Rahmatullin in Scrapy
лолшто
источник

М

Мак in Scrapy
чего делать то ((
источник

AR

Andrey Rahmatullin in Scrapy
читать что я выше писал
источник

AR

Andrey Rahmatullin in Scrapy
(это вообще универсальный совет)
источник

AR

Andrey Rahmatullin in Scrapy
вру, читать мало, надо ещё это выполнять
источник

AR

Andrey Rahmatullin in Scrapy
скрапи скриптом запускается так, что он никогда не найдётся если PATH дефолтный, а он дефолтный
источник

М

Мак in Scrapy
надо добавить путь .env/bin/ в path?
источник

AR

Andrey Rahmatullin in Scrapy
нет
источник

AR

Andrey Rahmatullin in Scrapy
запускать .env/bin/scrapy
источник

AR

Andrey Rahmatullin in Scrapy
высчитав сначала абсолютный путь конечно, а то опять не заработает из другого каталога
источник

AR

Andrey Rahmatullin in Scrapy
но его всё равно высчитывать, как иначе-то
источник

AR

Andrey Rahmatullin in Scrapy
os.path.dirname(os.path.dirname(__file__)) вся вот эта стандартная хрень
источник

AR

Andrey Rahmatullin in Scrapy
хотя щас модно pathlib.Path(__file__).parent
источник

AK

Anil Kumar in Scrapy
While scraping with a download_delay =0, I'm missing some urls. But when I scrape with a download_delay=1. I'm able to scrape all the urls. But I have a lot of data to scrape. How to do it with out missing urls...
источник