Size: a a a

2018 July 09

AS

Alexander Serebrov in Scrapy
кстати!
источник

AS

Alexander Serebrov in Scrapy
а как вы пишете тесты к scrapy спайдерам?
источник

B

Bulatbulat48 in Scrapy
Alexander Serebrov
а как вы пишете тесты к scrapy спайдерам?
никак :)
источник

AS

Alexander Serebrov in Scrapy
😱
источник

AS

Alexander Serebrov in Scrapy
я просто столкнулся с тем, что когда есть пяток скрейперов, которые надо каждый месяц запускать... как минимум один из них ломается потому что изменился сайт))
источник

AS

Alexander Serebrov in Scrapy
и хорошо, если сразу заметишь
источник

AS

Alexander Serebrov in Scrapy
а то бывало такое, что оно там уже насобирало миллион продуктов и тут мы замечаем, что чего-то критического нет 😅
источник

AS

Alexander Serebrov in Scrapy
поэтому я использую Betamax и pytest чтобы мокать респонсы и генерировать тесты при помощи параметризации фикстур 😅
источник

AS

Alexander Serebrov in Scrapy
думал может есть получше/попроще способ
источник

AS

Alexander Serebrov in Scrapy
вдохновение черпал отсюда:
https://github.com/nobodyguy/jobot/blob/master/tests/spiders/test_jobsczSpider.py

но это вариант с unittest'ом
источник

B

Bulatbulat48 in Scrapy
спс!
источник

AS

Alexander Serebrov in Scrapy
про Betamax
источник

AS

Alexander Serebrov in Scrapy
источник

B

Bulatbulat48 in Scrapy
Alexander Serebrov
про Betamax
а что это в двух словах?
источник

AS

Alexander Serebrov in Scrapy
библиотека от создателя requests, которая позволяет тестировать приложения, связанные с запросами к внешним вебсайтам без интернета 😄
есть несколько опций как оно будет себя вести - в общем случае либа записывает респонс в файлик и при следующем реквесте к сайту определяет изменился ли контент и обновляет респонс в файле если надо
источник

B

Bulatbulat48 in Scrapy
круто!
источник

AS

Alexander Serebrov in Scrapy
ага) есть еще очень похожая (и кажется более распространенная) vcr
источник

AS

Alexander Serebrov in Scrapy
которая делает то же саоме
источник

AS

Alexander Serebrov in Scrapy
источник

B

Bulatbulat48 in Scrapy
+
источник