Size: a a a

2021 June 20

AR

Andrey Rahmatullin in Scrapy
не знаю
источник

A

Alex in Scrapy
Конкретно по этому вопросу:
https://developer.mozilla.org/en-US/docs/Web/HTTP/Headers/Accept-Encoding
источник

AR

Andrey Rahmatullin in Scrapy
там вряд ли написано что стоит в нём передавать работая с requests
источник

BB

Bral Bral in Scrapy
Да
источник

AR

Andrey Rahmatullin in Scrapy
нет там проверки, новое имя файла вычисляется и проверяется есть ли такой уже
источник

BB

Bral Bral in Scrapy
Понял, буду сам делать.
источник

BB

Bral Bral in Scrapy
Подскажите, AWS_ENDPOINT_URL -  что заполнять - то? пытался и ip:port и http://ip:port.  Ошибки типа : ValueError: Invalid endpoint, или raise ValueError(f'Missing scheme in request url: {self._url}')
ValueError: Missing scheme in request url: h ( во втором случае). Развернут minio  в локальной сети.

В доке примера нет - https://docs.scrapy.org/en/latest/topics/settings.html?highlight=%20AWS_ENDPOINT_URL#aws-endpoint-url
источник

AR

Andrey Rahmatullin in Scrapy
источник

AR

Andrey Rahmatullin in Scrapy
источник

BB

Bral Bral in Scrapy
Благодарю.
источник

BB

Bral Bral in Scrapy
А есть настройка аналогичная https://docs.scrapy.org/en/latest/topics/settings.html?highlight=DOWNLOAD_MAXSIZE#download-maxsize , только для минимального размера? В доке не нашел.
источник

AR

Andrey Rahmatullin in Scrapy
это как лол
источник

S

SoHard 🎄 in Scrapy
Проверяй сам после того как скачал
источник

BB

Bral Bral in Scrapy
Ну для DOWNLOAD_MAXSIZE же как-то срабатывает. Когда содержимое было больше порога он эксепшен кидал.
источник

BB

Bral Bral in Scrapy
ну это понятно, может уже это реализовано.
источник

AR

Andrey Rahmatullin in Scrapy
лол
источник

AR

Andrey Rahmatullin in Scrapy
он кидает в процессе, а не по факту
источник

AR

Andrey Rahmatullin in Scrapy
и в этом есть смысл, а в некоем "минимальном размере ответа" нет
источник

BB

Bral Bral in Scrapy
да как нет-то, можете пояснить? Типичная ситуация -  нужно видео от 100 мб до 500 мб , например.
источник

AR

Andrey Rahmatullin in Scrapy
я не знаю что тут пояснять, DOWNLOAD_MAXSIZE не про фильтрацию постфактум, а чтобы лишнего не скачать
источник