Size: a a a

2020 October 22

AR

Andrey Rahmatullin in Scrapy
я писал что со скрапи никакого "клиент отсылает серверу список cipher suit'ов из tls1.3, сервер в ответ его посылает нахрен" нет, да и быть не может там такого, ведь чтобы получить 403 клиент должен установить тлс-коннект
источник

СТ

Семён Трояновский... in Scrapy
Andrey Rahmatullin
я писал что со скрапи никакого "клиент отсылает серверу список cipher suit'ов из tls1.3, сервер в ответ его посылает нахрен" нет, да и быть не может там такого, ведь чтобы получить 403 клиент должен установить тлс-коннект
ок, теперь понял
источник

SS

Stepan Smirnov in Scrapy
а сколько запросов в день можно отправить с одного сервера у которого 1 ядро и 512 МБ памяти (как элемент scrapyd cluster)?
источник

AR

Andrey Rahmatullin in Scrapy
вопрос тупой, но вообще почти нисколько, в такую память влезет только очень маленький спайдер
источник

SS

Stepan Smirnov in Scrapy
а если 1 ГБ памяти?
источник

SS

Stepan Smirnov in Scrapy
Правильный вопрос наверное - сколько нужно серверов (можно наверное более дорогие с докером использовать) чтобы отправить 1.000.000 запросов за 24 часа?
источник

ЛГ

Лев Гареев in Scrapy
Stepan Smirnov
Правильный вопрос наверное - сколько нужно серверов (можно наверное более дорогие с докером использовать) чтобы отправить 1.000.000 запросов за 24 часа?
ghbvthyj 10 d ctreyle
источник

ЛГ

Лев Гареев in Scrapy
примерно 10 в секунду?)
источник

S

SoHard 🎄 in Scrapy
Stepan Smirnov
Правильный вопрос наверное - сколько нужно серверов (можно наверное более дорогие с докером использовать) чтобы отправить 1.000.000 запросов за 24 часа?
на один сайт?
источник

МС

Михаил Синегубов... in Scrapy
Stepan Smirnov
Правильный вопрос наверное - сколько нужно серверов (можно наверное более дорогие с докером использовать) чтобы отправить 1.000.000 запросов за 24 часа?
1 000 000 / (24*60) = 695 запросов в минуту

вааще не вопрос
источник

МС

Михаил Синегубов... in Scrapy
на домашней машине средняя скорость на среднем сайте :)
источник

SS

Stepan Smirnov in Scrapy
SoHard 🎄
на один сайт?
Amazon
источник

i

i in Scrapy
Ты можешь создать на своей машине виртуалку со своим спайдером выделить ей память, ядро и экспериментировать на своем спайдеие
источник

ЛГ

Лев Гареев in Scrapy
Михаил Синегубов
на домашней машине средняя скорость на среднем сайте :)
так у тебя машина же хорошая)
источник

S

SoHard 🎄 in Scrapy
а ну это еще лан)
источник

ЛГ

Лев Гареев in Scrapy
i
Ты можешь создать на своей машине виртуалку со своим спайдером выделить ей память, ядро и экспериментировать на своем спайдеие
Я вот думал, кстати, но железо без сна не устает?
источник

S

SoHard 🎄 in Scrapy
Лев Гареев
Я вот думал, кстати, но железо без сна не устает?
нет
источник

SS

Stepan Smirnov in Scrapy
Михаил Синегубов
1 000 000 / (24*60) = 695 запросов в минуту

вааще не вопрос
а если 3 млн? Домашняя машина не вариант, к сожалению
источник

ЛГ

Лев Гареев in Scrapy
все, мой комп становится сервером
источник

ЛГ

Лев Гареев in Scrapy
продам серверное место
источник