Size: a a a

2019 July 17

M

Mohamad in Scrapy
Как парсить innerHTML?
источник

AB

A B in Scrapy
теперь уже по пакетированию вопрос. я всё это как-то обходил столько лет стороной, так как сложных вещей не делал. не обессудьте за простой вопрос про питон.

вот такой кейс: создал через scrapy  проект и он рабочий. структура директорий такая: Y/Z/spiders. через тот же скрапи запускаются пауки, всё хорошо. если добавить это дерево каталогов в мой сторонний проэкт (X/Y/Z/spiders), то чтобы запускать паука из X, нужно добавить в Y __init__.py и поправить все импорты добавив Y. но после этого, паука не запустить через scrapy runspider.

как бы и рыбку съесть и через runspider запускать?
источник
2019 July 18

АП

Агент Печенька in Scrapy
Обернуть собственно в пакет чтобы не заниматься фигнёй с копированием папок руками.
источник

AB

A B in Scrapy
как это делается? я думал, что создав в директории __init__.py я уже сделал пакет
источник

AB

A B in Scrapy
я не разумлю этот момент вообще.
источник

P

Petr in Scrapy
Подскажите как с помощью python вытащить данные из local storage Chrome
источник

АП

Агент Печенька in Scrapy
A B
я не разумлю этот момент вообще.
Packaging guide, там всё есть.
Если вкратце сетап.пай позволит тебе устанавливать свои пакеты куда ты хочешь, например в другие свои проекты.
Такой же механизм как и с установкой самого скрапи, ты же не копируешь код скрапи себе в проект, ты его через pip install skrapy ставишь. Так же можно и со своим кодом.
источник

АП

Агент Печенька in Scrapy
А, я не так вопрос прочитал.
источник

АП

Агент Печенька in Scrapy
Сори, пойду ка я спать.
источник

АП

Агент Печенька in Scrapy
A B
я не разумлю этот момент вообще.
Если не решишь пингуй завтра.
источник

AB

A B in Scrapy
ночь длинная, пошуршу
источник

JW

John Wayne in Scrapy
Подскажите, есть примеры\гайды, как данные с js кнопок итд, брать реквестами, без сплеша\селениума
источник

G

Grigory in Scrapy
John Wayne
Подскажите, есть примеры\гайды, как данные с js кнопок итд, брать реквестами, без сплеша\селениума
Данные с жс? Всмисле?
источник

G

Grigory in Scrapy
Можно innerHTML парсить просто, как вариант.
источник

JW

John Wayne in Scrapy
Ну вот есть кнопка
<h3 class="title-item contact-click btn btn-blue btn-lg btns_clock_width wu_paddings_class" onclick="loadContacts()">Контакты</h3>
её жмешь идет POST реквест, и в формдате нужные данные, как их брать, если форма это кнопка
источник

VP

Valera Pupkin in Scrapy
Отправлять пост запрос, который отправляется при нажатии кнопки?
источник

B

Bulatbulat48 in Scrapy
Mohamad
Как парсить innerHTML?
‘h1:text’.get()
источник

G

Grigory in Scrapy
Bulatbulat48
‘h1:text’.get()
С помощью селекторов хочешь сказать?
источник

B

Bulatbulat48 in Scrapy
Grigory
С помощью селекторов хочешь сказать?
Да, а как ещё?
источник

G

Grigory in Scrapy
John Wayne
Ну вот есть кнопка
<h3 class="title-item contact-click btn btn-blue btn-lg btns_clock_width wu_paddings_class" onclick="loadContacts()">Контакты</h3>
её жмешь идет POST реквест, и в формдате нужные данные, как их брать, если форма это кнопка
Инпуты снизу должны быть по идее
источник