Size: a a a

2019 August 14

АН

Алексей Нагорский in Scrapy
Кирилл
Просто вызови еще раз start_requests
self.start_requests() ничего не дает
источник

МС

Михаил Синегубов in Scrapy
Алексей Нагорский
self.start_requests() ничего не дает
логично, у тебя же, небось, dont_filter не стоит...
источник

АН

Алексей Нагорский in Scrapy
Михаил Синегубов
логично, у тебя же, небось, dont_filter не стоит...
Кстати нет
источник

МС

Михаил Синегубов in Scrapy
кстати запросы фильтруются ;)
источник

АН

Алексей Нагорский in Scrapy
Окей, щаз добавим
источник

К

Кирилл in Scrapy
Михаил Синегубов
логично, у тебя же, небось, dont_filter не стоит...
В дефолтом, обычном стоит
источник

МС

Михаил Синегубов in Scrapy
Кирилл
В дефолтом, обычном стоит
ага, тока стоит dont_filter = False
источник

К

Кирилл in Scrapy
Алексей Нагорский
self.start_requests() ничего не дает
Это генератор, тебе нужно его вызвать
источник

МС

Михаил Синегубов in Scrapy
а тут надо заново бубли пройти
источник

АН

Алексей Нагорский in Scrapy
Михаил Синегубов
а тут надо заново бубли пройти
Сработало, пришлось правда как ебанько везде dont_filter=True во всех реквестах ставить, а йшо делать...
источник

МС

Михаил Синегубов in Scrapy
Алексей Нагорский
Сработало, пришлось правда как ебанько везде dont_filter=True во всех реквестах ставить, а йшо делать...
включить мозги как отпрать на перепарс только необработанные ссылки :)
источник

АН

Алексей Нагорский in Scrapy
Этож не необработанные ссылки
источник

АН

Алексей Нагорский in Scrapy
Это одна последовательность действий что бы добраться до файла
источник

АН

Алексей Нагорский in Scrapy
aspx мать его
источник

JW

John Wayne in Scrapy
Люди подскажите, есть такой луа скрипт для scrapy\splash на логин на редите, итог которого:
{"dest": "https://www.reddit.com"}
Как все таки залогинится на редите?
https://www.reddit.com/login
function main(splash, args)
 splash:set_user_agent('Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3770.142 Safari/537.36')
 assert(splash:go(args.url))
 splash:set_viewport_size(1920, 1080)
 assert(splash:wait(1.5))
 local login = splash:select('#loginUsername')
 login:mouse_click()
 assert(splash:wait(0.5))
 login:send_keys('Login')
 assert(splash:wait(0.5))
 local pass = splash:select('#loginPassword')
 pass:mouse_click()
 assert(splash:wait(0.5))
 pass:send_keys('Pass')
 assert(splash:wait(0.5))
 local submit = splash:select('button')
 assert(splash:wait(0.5))
 submit:mouse_click()
 assert(splash:runjs('document.querySelector("body > div > div > div.PageColumn.PageColumn__right > div > form > fieldset:nth-child(10) > button").click()'))
 assert(splash:wait(1.5))
 return {
   url = splash:url(),
   html = splash:html(),
   png = splash:png(),
 }
end
источник

АН

Алексей Нагорский in Scrapy
John Wayne
Люди подскажите, есть такой луа скрипт для scrapy\splash на логин на редите, итог которого:
{"dest": "https://www.reddit.com"}
Как все таки залогинится на редите?
https://www.reddit.com/login
function main(splash, args)
 splash:set_user_agent('Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3770.142 Safari/537.36')
 assert(splash:go(args.url))
 splash:set_viewport_size(1920, 1080)
 assert(splash:wait(1.5))
 local login = splash:select('#loginUsername')
 login:mouse_click()
 assert(splash:wait(0.5))
 login:send_keys('Login')
 assert(splash:wait(0.5))
 local pass = splash:select('#loginPassword')
 pass:mouse_click()
 assert(splash:wait(0.5))
 pass:send_keys('Pass')
 assert(splash:wait(0.5))
 local submit = splash:select('button')
 assert(splash:wait(0.5))
 submit:mouse_click()
 assert(splash:runjs('document.querySelector("body > div > div > div.PageColumn.PageColumn__right > div > form > fieldset:nth-child(10) > button").click()'))
 assert(splash:wait(1.5))
 return {
   url = splash:url(),
   html = splash:html(),
   png = splash:png(),
 }
end
А зачем сплэш?
источник

АН

Алексей Нагорский in Scrapy
Вродь все открывается даже если отключить жс
источник

АН

Алексей Нагорский in Scrapy
А вообще это все, после {dest.. reddit.com открывается с твоей учеткой
источник

JW

John Wayne in Scrapy
Алексей Нагорский
А вообще это все, после {dest.. reddit.com открывается с твоей учеткой
Т.е ты можешь щас обычным скрепи залогинится на редите? Пост реквестом итд?
источник

АН

Алексей Нагорский in Scrapy
John Wayne
Т.е ты можешь щас обычным скрепи залогинится на редите? Пост реквестом итд?
Я не логинился скрапи, я просто отключил джаваскрипт в хроме и получил то же самое, что и ты, потом просто в том же окне с отключенным жс открыл собственно наш dest и вот он я с кармой 2
источник