Size: a a a

2019 September 16

МС

Михаил Синегубов in Scrapy
тю, 16 потоков HTML без картинок это убийство? а что тогда нет ? :)
источник

i

ildar in Scrapy
а условный цикл получения айтема за сколько отрабатывает?
источник

i

ildar in Scrapy
верней, сколько айтемов в минуту выходит?
источник

МС

Михаил Синегубов in Scrapy
примерно - 10-20 запросов
источник

МС

Михаил Синегубов in Scrapy
даже не так
источник

МС

Михаил Синегубов in Scrapy
5-15
ближе к 10 запросам в сек
источник

i

ildar in Scrapy
ууу
источник

i

ildar in Scrapy
чет какая-то деревня тормозиллово у них там на сайте
источник

i

ildar in Scrapy
подожди - это на одном прокси?
источник

МС

Михаил Синегубов in Scrapy
нет
источник

i

ildar in Scrapy
и все 7000 выдают в итоге 10 запросов в сек?
источник

i

ildar in Scrapy
на всех?
источник

МС

Михаил Синегубов in Scrapy
ДА, рокавто - соврал, 50 стоит CONCURRENT_REQUESTS
источник

i

ildar in Scrapy
ну стоять-то там хоть 1000 может)
источник

i

ildar in Scrapy
а выдает сколько?
источник

i

ildar in Scrapy
у тебя auto throtling?
источник

МС

Михаил Синегубов in Scrapy
неть
источник

i

ildar in Scrapy
а ты пробани!
источник

i

ildar in Scrapy
вообще конечно да, иной раз этот тюнинг времени больше занимает чем написание парсера(
источник

МС

Михаил Синегубов in Scrapy
ildar
вообще конечно да, иной раз этот тюнинг времени больше занимает чем написание парсера(
тут плохо то, что интереса у меня особо и нет, так, сугубо спортивный :)
мне они щас не платят, просто заказа нет, в образовательных целях ковыряюсь....
источник