Size: a a a

2019 May 06

GG

George Gaál in Data Engineers
Rustam Iksanov
Я склоняюсь к avro, но не очень понятно, будет ли это трудно достать с помощью pyspark в будущем. Я пока не смог найти, поддерживает ли pyspark нативно avro
А вы точно уверены, что вам нужен пайспарк ? 😳😳😳
источник

GG

George Gaál in Data Engineers
Авро вроде уже есть все, что можно
источник

GP

Grigory Pomadchin in Data Engineers
авро медленный на питоне
источник

RI

Rustam Iksanov in Data Engineers
George Gaál
А вы точно уверены, что вам нужен пайспарк ? 😳😳😳
мне нет, но часть команды очевидно будет использовать его.
источник

GP

Grigory Pomadchin in Data Engineers
но достать будет не трудно
источник

GG

George Gaál in Data Engineers
Rustam Iksanov
мне нет, но часть команды очевидно будет использовать его.
Production code or data science ?
источник

GG

George Gaál in Data Engineers
Просто если к проду требование скорости.... То это не про пайтон. К сожалению
источник

RI

Rustam Iksanov in Data Engineers
George Gaál
Production code or data science ?
Тут речь только про ресерч
источник

GP

Grigory Pomadchin in Data Engineers
тогда скорость не важна же
источник

GP

Grigory Pomadchin in Data Engineers
источник

GG

George Gaál in Data Engineers
А, ну, ок, тогда
источник

GP

Grigory Pomadchin in Data Engineers
хоть авро
источник

GP

Grigory Pomadchin in Data Engineers
хоть что угодно
источник

GG

George Gaál in Data Engineers
источник

RI

Rustam Iksanov in Data Engineers
Спасибо
источник

AS

Alexander S in Data Engineers
Rustam Iksanov
Я склоняюсь к avro, но не очень понятно, будет ли это трудно достать с помощью pyspark в будущем. Я пока не смог найти, поддерживает ли pyspark нативно avro
Если делать так (spark 2.4), то все получится
SpSession = SparkSession.builder.appName('appname').master('самизнаетечто'). ... .config("spark.jars.packages", "org.apache.spark:spark-avro_2.11:2.4.0").getOrCreate()
...
data = SpSession.read.format("com.databricks.spark.avro").load('самизнаетечто')
источник

RI

Rustam Iksanov in Data Engineers
спс
источник

M

Maria_rm in Data Engineers
Привет, чат! с позволения админа хочу сделать небольшой анонс.
источник

M

Maria_rm in Data Engineers
25 мая не пропустите  Machine learning meetup в Воронеже!

Готов ли мир дать машинам искусственный интеллект? Пускай машины решают за нас рутинные задачи, обрабатывают большие объемы данных, или просто помогают нам принимать наиболее оптимальные решения в повседневной жизни. Но для этого нужно их многому научить.

Как это сделать? Расскажем на Machine learning митапе.

Участие бесплатное, с регистрацией на TimePad

👉🏼Кому будет интересен Machine Learning Meetup?

- Разработчикам любого уровня, интересующимся машинным обучением, нейронными сетями
- Тем, кто только хочет начать своё знакомство с искусственным интеллектом и присоединиться к коммьюнити
- А также специалистам в других технологиях для расширения профессионального кругозора

Полная программа митапа: https://metaconf.net

Организаторы: Компании Evrone.com и DataArt
источник

I

Igor in Data Engineers
программа выглядит маркетинговым буллшитом: https://metaconf.net/machine-learning
источник