Size: a a a

2018 August 03

E

Evgen in Scrapy
Там обширный интерфейс. Зарегайтесь попробуйте там один паук вроде бесплатно
источник

B

Bulatbulat48 in Scrapy
Elisei Badanin
а если я буду юзать скрапи клауд, там же все также как и в скрапид по апи?
Давай, расскажешь))
источник

EB

Elisei Badanin in Scrapy
Bulatbulat48
Давай, расскажешь))
да так-то и скрапид можно поднять, но тогда ничего не меняется и нужно всеравно очередь и импорт писать, поэтому и думаю что взять((
источник

EB

Elisei Badanin in Scrapy
а в скрапид(ну и клауде) же по фактут тотже скрапи запускаетс, и конфиги вроде фид экспортера(на с3) будут также работать?
источник

А

Алексей in Scrapy
только Twisted, asyncio не любят ребята?
источник

EB

Elisei Badanin in Scrapy
в скрапи вроде да
источник
2018 August 05

DD

Danil Denysenko in Scrapy
Bulatbulat48
сплеш только генерирует JS, отправлять форму можно через post запрос
а если у меня разные поля, но post запрос один и тот же:?
источник

DD

Danil Denysenko in Scrapy
url не меняется
источник

DD

Danil Denysenko in Scrapy
Нужно параметры посмотреть дополнительные, видимо
источник

B

Bulatbulat48 in Scrapy
Danil Denysenko
а если у меня разные поля, но post запрос один и тот же:?
поля собираются в тело пост-запроса
источник

B

Bulatbulat48 in Scrapy
посмотри network и отправь в ручую данные
источник

NK

ID:507308625 in Scrapy
    def __init__(self, subject=None):
       self.subject = subject

теперь я могу передать сюда через -a данные.
и сделать условие.
не могу понять, как это сделать, если в одном условии мне нужен один
rules = (
               Rule(LinkExtractor

а в другом, чтобы отработал другой
rules = (
               Rule(LinkExtractor

def parse(self, response): - мне нужно запихнуть рулсы в эту функцию с условиями?
вроде да, так как self.logger.info отрабатывает, в зависимости от того, что я передал в -a
но если я в этой функции в условия рулсы положу, то они не отработают.
источник

NK

ID:507308625 in Scrapy
в общем не могу нагуглить, как передавать аргументы а CrawlSpider
источник

B

Bulatbulat48 in Scrapy
что попадает в subject? условие?
источник

NK

ID:507308625 in Scrapy
Bulatbulat48
что попадает в subject? условие?
ну да
источник

B

Bulatbulat48 in Scrapy
ID:507308625
в общем не могу нагуглить, как передавать аргументы а CrawlSpider
def __init__(self, subject, *args, **kwargs):
       super(MySpider, self).__init__(*args, **kwargs)
       self.start_urls = ['http://google.com/%s' % (subject)]
       self.subject = subject
источник

NK

ID:507308625 in Scrapy
Bulatbulat48
def __init__(self, subject, *args, **kwargs):
       super(MySpider, self).__init__(*args, **kwargs)
       self.start_urls = ['http://google.com/%s' % (subject)]
       self.subject = subject
это я видел в доке.
рулсы мне как в ифы то положить? =)
источник

NK

ID:507308625 in Scrapy
или прям в ините их и надо делать?
источник

B

Bulatbulat48 in Scrapy
покажи рулисы
источник

NK

ID:507308625 in Scrapy
та обычные, в зависимости от темы одни хочу применить, или другие
источник