Size: a a a

2019 August 19

AS

Andrey Star in Data Engineers
там есть большой продукт, который идет со своим питоном.. он импортирует классы, которые я могу написать.. вот из них прочитать паркет
источник

AS

Andrey Star in Data Engineers
если есть сопособ использовать свое окружение внутри класса, который будет импортирован непонятно во что, это могло бы решить проблему
источник

АЖ

Андрей Жуков in Data Engineers
Andrey Star
если есть сопособ использовать свое окружение внутри класса, который будет импортирован непонятно во что, это могло бы решить проблему
втащить в себя какой-нибудь фастпаркет?
источник

AS

Andrey Star in Data Engineers
Андрей Жуков
втащить в себя какой-нибудь фастпаркет?
он все равно построен поверх пандас.. или как понимать втащить в себя?
источник

АЖ

Андрей Жуков in Data Engineers
Andrey Star
он все равно построен поверх пандас.. или как понимать втащить в себя?
https://github.com/jcrobak/parquet-python - например
Вот только даже у него есть зависимости, пусть и не от пандаса
источник

АЖ

Андрей Жуков in Data Engineers
снеппи-то все равно надо раскодировать
источник

AS

Andrey Star in Data Engineers
выглядит не так огромно, как с пандосом.. сейчас попробую и отпишусь
источник

AS

Andrey Star in Data Engineers
Андрей Жуков
https://github.com/jcrobak/parquet-python - например
Вот только даже у него есть зависимости, пусть и не от пандаса
Спасибо большое! Эта штука завелась. В итоге были проблемы с зависимостями если ставить через pip install parquet.. но ручками я собрал без проблем.. Еще раз большое СПАСИБО!
источник

АЖ

Андрей Жуков in Data Engineers
Andrey Star
Спасибо большое! Эта штука завелась. В итоге были проблемы с зависимостями если ставить через pip install parquet.. но ручками я собрал без проблем.. Еще раз большое СПАСИБО!
Вот и славно. На здоровье
источник
2019 August 20

K

KrivdaTheTriewe in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
а зачем асбтрагироваться от типа менеджера?
источник

K

Kelvin in Data Engineers
Anyone in need of image data labelling here? We are looking for a pilot project to test our "Laas" on. It's free - you don't have to pay a cent.
источник

ПФ

Паша Финкельштейн in Data Engineers
How to tell about position not giving any useful information
источник

ПФ

Паша Финкельштейн in Data Engineers
Grigory Pomadchin
а зачем асбтрагироваться от типа менеджера?
Ну а вдруг завтра война, а ты не готов не переписывая код перейти на другой менеджер
источник

ПФ

Паша Финкельштейн in Data Engineers
А вообще намёк, наверное, на покупку клаудерой хортона и тебе и правда может понадобитьсяперейти на другой менеджер 😊 Типа йарна болье не будет
источник

DM

Daniel Matveev in Data Engineers
Ридми буллшит какой-то.
источник

DM

Daniel Matveev in Data Engineers
Grigory Pomadchin
а зачем асбтрагироваться от типа менеджера?
Имхо бессмысленно, потому что они настолько разные, что общего очень мало (зато прослойка будет lightweight). Ну и по архитектуре они в итоге все равно ничего не прячут (если я правильно понял про policy и shim). Просто легковесная одна точка входа, которая имеет очень абстрактные цели и сильно ограничена нижклежащими компонентами.
источник

AZ

Anton Zadorozhniy in Data Engineers
Дамы и господа, кто из вас держит ML пайплайны, расскажите пожалуйста где вы держите и как трекаете данные для обучения и/или валидации моделей?
источник

R

Renarde in Data Engineers
Anton Zadorozhniy
Дамы и господа, кто из вас держит ML пайплайны, расскажите пожалуйста где вы держите и как трекаете данные для обучения и/или валидации моделей?
Dvc вроде решаем вопросы с версионированием данных для обучения
источник

AZ

Anton Zadorozhniy in Data Engineers
Renarde
Dvc вроде решаем вопросы с версионированием данных для обучения
привет, спасибо. А храните прямо в гите или в с3?
источник