Size: a a a

2021 June 14

S

SoHard 🎄 in Scrapy
да это гугловская
источник

S

SoHard 🎄 in Scrapy
где бы либу найти которая бы генерила отзывы на видео которые бы не повторялись?)
источник

O

OxYgEn in Scrapy
Создай лист с отзывами, и сам выдавай рандомный, я думаю если поискать, можно найти уже готовые листы
источник

O

OxYgEn in Scrapy
Кто-то работал с shadow_useragent, в какой момент в коде надо её применять?
источник

AR

Andrey Rahmatullin in Scrapy
в мидлвари конечно
источник

AR

Andrey Rahmatullin in Scrapy
OxYgEn здесь спрашивай
источник

O

OxYgEn in Scrapy
В каком моменте её инициализировать
источник

AR

Andrey Rahmatullin in Scrapy
кого её
источник

O

OxYgEn in Scrapy
def process_request(self, request, spider):
       # Called for each request that goes through the downloader
       # middleware.

       # Must either:
       # - return None: continue processing this request
       # - or return a Response object
       # - or return a Request object
       # - or raise IgnoreRequest: process_exception() methods of
       #   installed downloader middleware will be called
       request.headers['User-Agent'] = random.choice(user_agents)  # !! These 2 lines
       request.meta['proxy'] = random.choice(proxies)  # !! These 2 lines
       return None
источник

O

OxYgEn in Scrapy
Но не срабатывает
источник

AR

Andrey Rahmatullin in Scrapy
казалось бы при чём тут shadow_useragent
источник

O

OxYgEn in Scrapy
Изначально пытался со своим списком работать, чтобы потом подключить shadow
источник

AR

Andrey Rahmatullin in Scrapy
ну значит проблема в этом
источник

AR

Andrey Rahmatullin in Scrapy
код-то этот выполняется?
источник

O

OxYgEn in Scrapy
Нет, выдает кучу ошибок
источник

O

OxYgEn in Scrapy
Но уже не из этого модуля
источник

AR

Andrey Rahmatullin in Scrapy
значит это не работает потому что этот код не выполняется
источник

O

OxYgEn in Scrapy
Что может значит debug: starting new HTTP connection, после этого несколько раз пытается поменять порт и выдает ошибку
источник

AR

Andrey Rahmatullin in Scrapy
видимо кто-то ходит в сеть напрямую через урллиб, минуя скрапи
источник

AR

Andrey Rahmatullin in Scrapy
сам скрапи так не пишет
источник