Size: a a a

2020 March 08

AK

Anil Kumar in Scrapy
How to set scrapy log only for a particular method in the class.?
источник

AK

Anil Kumar in Scrapy
Anil Kumar
How to set scrapy log only for a particular method in the class.?
Please anyone reply
источник

B

Bulatbulat48 in Scrapy
Anil Kumar
How to set scrapy log only for a particular method in the class.?
self.logger.info(‘text’) ?
источник

AK

Anil Kumar in Scrapy
I don't want everyline to get into log. I want to log only if a particular condition is satisfied. How to do it
источник

К

Кирилл in Scrapy
if cond:
   self.log('text')
источник

i

ildar in Scrapy
Мак
Чего геморного? У меня на винде сплеш из джокера спокойно работает
На винде есть проблема, если ставить докер, он хочет виндовый hyper-v, а тот мощно конфликтует с vmware, виртуалки с ней тупо стартовать перестают. И просто так обратно все назад уже не вернуть, надо потанцевать с бубном, выполнить спецскрипт на три страницы, и он не всегда еще срабатывает.
источник

М

Мак in Scrapy
ildar
На винде есть проблема, если ставить докер, он хочет виндовый hyper-v, а тот мощно конфликтует с vmware, виртуалки с ней тупо стартовать перестают. И просто так обратно все назад уже не вернуть, надо потанцевать с бубном, выполнить спецскрипт на три страницы, и он не всегда еще срабатывает.
Вот вы сейчас на каком языке ругаетесь?)) вообще никаких конфликтов ни с докером ни с виртуалками. Может если какой то специфичный запуск? Озвучте детальнее, для интереса
источник

i

ildar in Scrapy
т.е. у тебя и докер который с hyper-v и виртуалки на vmware обе стартуют и все хорошо?
источник

i

ildar in Scrapy
ну вот примерно что бывает у меня когда я ставлю виндовый докер, и что надо сделать, чтобы вернуть "как было": https://weblogs.asp.net/dixin/run-hyper-v-and-vmware-virtual-machines-on-windows-10
источник

i

ildar in Scrapy
это я уже когда нашел одну команду-свитч bcdedit /set hypervisorlaunchtype off чтобы заработало что-то одно из них, но и это не всегда срабатывает
источник

🇺L

🇺🇦 Ad Libitum in Scrapy
Добрый день. С праздником. :D

Такой вопрос. Скажите, а возможна такая ситуация, например:  

1. Есть сайт, с которого хочется стянуть все статьи.
2. Есть аккаунт на scrapinghub

Можно ли, используя только функционал scrapinghub прямо на нём написать код для scrapy spider (он же не очень отличается от обычного scrapy), там же отладить и  выполнить (like scrapy shell!) и потом полученные данные просто сгрузить?
источник

AR

Andrey Rahmatullin in Scrapy
Яннп
источник

AR

Andrey Rahmatullin in Scrapy
В scrapy cloud нет конечно никакого редактора
источник

🇺L

🇺🇦 Ad Libitum in Scrapy
Ок, добавим в связку ещё Git
источник

AR

Andrey Rahmatullin in Scrapy
И в чем вопрос
источник

AR

Andrey Rahmatullin in Scrapy
Пишешь, деплоишь, запускаешь
источник

🇺L

🇺🇦 Ad Libitum in Scrapy
То есть фактически возможно
источник

AR

Andrey Rahmatullin in Scrapy
Я не понимаю отличий от обычного воркфлоу
источник

🇺L

🇺🇦 Ad Libitum in Scrapy
Скажем так, а они вообще есть?
источник

🇺L

🇺🇦 Ad Libitum in Scrapy
В бесплатном режиме?
источник