Size: a a a

2019 August 16

МС

Михаил Синегубов in Scrapy
какой то маразм
источник

iz

izzz zzi in Scrapy
Паблик прокси ?
источник

МС

Михаил Синегубов in Scrapy
izzz zzi
Паблик прокси ?
нет,
https://proxys.io/ru  - как раз ipv6
источник

МС

Михаил Синегубов in Scrapy
у них до этого брал, было все норм...
источник

s

serhii in Scrapy
https://docs.python.org/3.6/library/shelve.html - говорят, что это лучше.
источник

АП

Агент Печенька in Scrapy
serhii
https://docs.python.org/3.6/library/shelve.html - говорят, что это лучше.
Врут бессовестно.
источник

s

serhii in Scrapy
Агент Печенька
Врут бессовестно.
аргументы?
источник

АП

Агент Печенька in Scrapy
Шелв это пикл.
Пикл это не для кеширования или хранения в файле
Пикл для доверенной среды взаимодействия, в основном для IPC.
Пикл это исключительно питон онли протокол.
Пикл это байт код стековая машина, по факту RCE из коробки.
Дбм этих недостатков не имеет.
Скулайт тоже.
источник

s

serhii in Scrapy
Агент Печенька
Шелв это пикл.
Пикл это не для кеширования или хранения в файле
Пикл для доверенной среды взаимодействия, в основном для IPC.
Пикл это исключительно питон онли протокол.
Пикл это байт код стековая машина, по факту RCE из коробки.
Дбм этих недостатков не имеет.
Скулайт тоже.
слушай, у меня дикт, ключ значение - строки.
1 м ключей, я думаю, хватит ли озу для шелва или dbm
источник

АП

Агент Печенька in Scrapy
Я вроде написал что шелв не твой выбор.
Дбм всё в памяти не хранит, ровно как и скулайт.
источник

i

ildar in Scrapy
AstralRomance
Ставлю я анаконду. Делаю я анакондой венв, активирую его, потом ставлю скрапю.
conda install -c conda-forge scrapy

Хочу я такой сделать павука, а оно мне такое какое на скрине. Уже правда есть мысль попробовать через pip накатить скрапю в обычный питон. Какие подводные?
У меня такое было, у них в forge скрапи поломаный, надо было просто ставить через pip install scrapy
источник

s

serhii in Scrapy
Агент Печенька
Я вроде написал что шелв не твой выбор.
Дбм всё в памяти не хранит, ровно как и скулайт.
просто другой чувак аргументирует, что шелв мой выбор)) но я уже впилил в проект дбм. ну раз он все в памяти не хранит, тогда все будет работать, как часы.
источник

i

ildar in Scrapy
Pypputeer заколебал падать, я его всего try except обложил, думал за ночь спарсит,так он умудрился где-то у себя в глубине помереть и все равно встать и весь скрипт повесить гад
источник

i

ildar in Scrapy
Может знает кто команду cmd, чтобы она к примеру железно убивала скрипт после 3 минут работы?
источник

i

ildar in Scrapy
timeout, но в винде немного не то - пишут ждет до-последнего, есть альтернатива: https://github.com/cernoch/tuxliketimeout
источник

E

Evgen in Scrapy
Порядок заголовков может быть разный у scrapy и requests
источник

C

Cote D'azur in Scrapy
Привет! можете подсказать начинающему в чем кардинальное отличие Scrapy от BS ?
источник

E

Evgen in Scrapy
То же отличие что между лопатой и экскаватором
источник

iz

izzz zzi in Scrapy
Cote D'azur
Привет! можете подсказать начинающему в чем кардинальное отличие Scrapy от BS ?
Электросамокат и самокат
источник

C

Cote D'azur in Scrapy
т.е. BS для мелких задач, а scrapy для чего-то глобального
источник