Size: a a a

2021 May 12

AR

Andrey Rahmatullin in Scrapy
в редисе, ага
источник

S

SoHard 🎄 in Scrapy
хотя не, есть в логах старые ссылки с 2020-12-16 числа и они еще живы
источник

ΔΧ

Δαηιιλ о҉ Χαριμκ... in Scrapy
linux CentOs
есть ли вариант запустить "scrapy crawl *spider*" через pm2?
или какие есть альтернативы для scrapy?
systemctl не заходит
источник

К

Кирилл in Scrapy
Куда не заходит?
источник

ΔΧ

Δαηιιλ о҉ Χαριμκ... in Scrapy
"не нравится"
источник

К

Кирилл in Scrapy
Специфические вкусы, да?
Скорее всего любой менеджер процессов может запустить скрапи, хоть супераизор, хоть пм2. Ну или просто кроном
источник

ΔΧ

Δαηιιλ о҉ Χαριμκ... in Scrapy
именно 😅
еще на linux канале пожелали долгих лет жизни с systemctl
pm2 использовал для Node проектов, мне понравилось)
scrapy *spider* получается
а вот как crawl передать хз
источник

К

Кирилл in Scrapy
источник

К

Кирилл in Scrapy
Но лучше не морочить себе этим голову
источник

ΔΧ

Δαηιιλ о҉ Χαριμκ... in Scrapy
спасибо
источник

AR

Andrey Rahmatullin in Scrapy
Рабочий каталог поди не тот
источник

AR

Andrey Rahmatullin in Scrapy
(а scrapy spider это вообще не команда)
источник
2021 May 13

ΔΧ

Δαηιιλ о҉ Χαριμκ... in Scrapy
Тот, systemctl отсюда же запускал
источник

ΔΧ

Δαηιιλ о҉ Χαριμκ... in Scrapy
Я к тому, что pm2 принял spider, но не принял crawl
источник

К

Кирилл in Scrapy
Скорее всего дело действительно в cwd
источник

AR

Andrey Rahmatullin in Scrapy
Ну принял так принял, ок
источник

МС

Мария Строгова... in Scrapy
всем привет. подскажите, пожалуйста, что за кодирование используется для infinite scrolling: cursor=ClEKCwoEc2l6ZRIDCIQWEj5qFXN-bGF3aW5zaWRlcmNvbnRyYWN0c3IlCxIHVGFnX3YyMCIYY2F0ZWdvcnk6c2FsZXMtYWdyZWVtZW50DBgAIAE%3D
пытаюсь через декод обойти его
источник

AR

Andrey Rahmatullin in Scrapy
обычный курсор для апи, ничего не кодирует скорее всего
источник

AR

Andrey Rahmatullin in Scrapy
просто передавать его в следующий запрос и всё
источник

МС

Мария Строгова... in Scrapy
значение этого курсора меняется при скроллинге. мне нужно как-то обойти всю страницу вниз с каждым новым значением курсора
источник