Size: a a a

2021 June 07

T

T in Data Engineers
Друзья давайте с офтопом в джобсы пожалуйста
источник

AZ

Anton Zadorozhniy in Data Engineers
источник

ME

Max Efremov in Data Engineers
там же стандартные есть...
источник

SS

Sergey Sheremeta in Data Engineers
спасибо!
источник

S

Stanislav in Data Engineers
Так а что грит мониторинг жвм дата нод?
источник

S

Stanislav in Data Engineers
Все пишут про количество тредов, по идее в графане должна быть прямая линия на цифре из конфига хадупа
источник

KS

K S in Data Engineers
Можно ли получить S3 object metadata при записи данных в glue spark?
источник

KS

K S in Data Engineers
Задача получить ETag после df.write.parquet(s3_bucket)
источник

KS

K S in Data Engineers
Можно конечно и после записи пробежаться по списку путей, но это дополнительные запросы.
источник

A

Aleksandra in Data Engineers
Здесь тётеньки тоже есть 🥲
источник

TM

Timur Malikin in Data Engineers
Может ему больше дяденьки нравятся, у всех свои вкусы, не переживайте :)
источник
2021 June 08

A

Alex in Data Engineers
@dartov может сталкивался с vast s3 ?

а то в чате судя по всему или реальный s3 или все minio пиарят
источник

АБ

Артемий Богданов... in Data Engineers
Не знаю по каким причинам, но у меня проект переезжал с vast на minio
источник

A

Alex in Data Engineers
у нас в контексте того что подумывают вынести часть нагрузки в облако начинают смотреть замену hdfs
а так как s3 протокол это почти стандарт, то и рассматриваются варианты minio и другие
источник

AZ

Anton Zadorozhniy in Data Engineers
Нет, я только с Isilon из таких решений пересекался
источник

A

Alex in Data Engineers
просто быстрый взгляд показывает что они вроде как декларируют allflash
но тогда это как замена hdfs точно не пойдёт нам
слишком дорого будет на наши объёмы
источник

A

Alex in Data Engineers
в итоге и не могу понять что они конкретно поставляют
целиком железяки с флешем внутри?
источник

AZ

Anton Zadorozhniy in Data Engineers
Это разного класса решения, конечно, если у вас нет таких требований по латенси - зачем платить за все это счастье
источник

AZ

Anton Zadorozhniy in Data Engineers
Железки
источник

A

Alex in Data Engineers
спасибо
источник