Size: a a a

2019 September 03

М

Мак in Scrapy
каламбурно получилось, но смысл понятен я надеюсь
источник

iz

izzz zzi in Scrapy
Мак
народ, кто нибудь может подсказать, как тор на впс установить, чтоб паук с впс в сеть тор выходил... на локалке то вопросов нет...
Юбунт?
источник

М

Мак in Scrapy
izzz zzi
Юбунт?
18.04
источник
2019 September 04

МС

Михаил Синегубов in Scrapy
народ, никто что-то вроде прогресс бара не прикручивал к пауку?
источник

К

Кирилл in Scrapy
Михаил Синегубов
народ, никто что-то вроде прогресс бара не прикручивал к пауку?
Тоже интересно, постоянно возникает такая идея)
источник

М

Мак in Scrapy
Кирилл
Тоже интересно, постоянно возникает такая идея)
а как это сделать, не зная итогового объема результатов? частенько ведь не ясно сколько информации будет
источник

К

Кирилл in Scrapy
В таких случаях приятно было бы постоянно видеть скорость, но это скорее к тем случаям когда известно итоговое число
источник

АП

Агент Печенька in Scrapy
Если что дефолтные настройки скрапи выводят информацию про количество запросов и итемов в секунду.
источник

АП

Агент Печенька in Scrapy
Вполне себе скорость.
источник

К

Кирилл in Scrapy
Агент Печенька
Если что дефолтные настройки скрапи выводят информацию про количество запросов и итемов в секунду.
Каждую минуту, и каким образом обычно смотришь их? И что если такая скорость, что полотно очень быстро летит?
источник

АП

Агент Печенька in Scrapy
Глазами обычно смотрю.
Полотно не летит.
источник

АП

Агент Печенька in Scrapy
Более того, это всё настраивается.
источник

К

Кирилл in Scrapy
Ну и я так же, плюс поиском ищу
источник

К

Кирилл in Scrapy
Агент Печенька
Более того, это всё настраивается.
Поделись)
источник

АП

Агент Печенька in Scrapy
В доке скрапи описан интерфейс их логколлектора.
источник

К

Кирилл in Scrapy
Ты про stats?
источник

АП

Агент Печенька in Scrapy
Да.
источник

iz

izzz zzi in Scrapy
Включаешь толкнул инфо в лог и смотришь стату)
источник
2019 September 05

МС

Михаил Синегубов in Scrapy
ну, как показывает практика, конечному пользователю не совсем удобно в лог смотреть.
Кодерам все Ок, а юзверятам "слишком много буковок".
с tqdm  вроде пока не полохо получается, хотя не дотестил еще
источник
2019 September 06

iz

izzz zzi in Scrapy
источник