Всем привет! Надо сделать много миллионов запросов к API, делаю через asyncio и aiohttp. Есть проблема, что не могу сделать больше 500 запросов в секунду. При чем даже разделил запросы, чтобы они шли на 2 разных сервера, и все равно упираюсь в это ограничение. Выглядит, что можно сильно быстрее. В чем может быть проблема?
Всем привет! Надо сделать много миллионов запросов к API, делаю через asyncio и aiohttp. Есть проблема, что не могу сделать больше 500 запросов в секунду. При чем даже разделил запросы, чтобы они шли на 2 разных сервера, и все равно упираюсь в это ограничение. Выглядит, что можно сильно быстрее. В чем может быть проблема?
Обычные https GET запросы. Если подробнее то к https://completion.amazon.com/search/complete То есть я уверен, что держит просто колоссальную нагрузку, и мои там 500 в секунду запросов для него точно мелочь.
ограничение на кол-во запросов в секунду с одного IP? Мне кажется, что проблема на моей стороне (потому что я ровно половину запросов стал отправлять по другому адресу (у них есть ещё другой урл с таким сервисом)) и получил всё равно те же 500 запросов
ограничение на кол-во запросов в секунду с одного IP? Мне кажется, что проблема на моей стороне (потому что я ровно половину запросов стал отправлять по другому адресу (у них есть ещё другой урл с таким сервисом)) и получил всё равно те же 500 запросов
Лучше используй пару проксей. Возможно, амазон ограничивает по твоему ип.