Size: a a a

2022 January 30

NN

No Name in Moscow Spark
А, так дергать это норм, а реагировать - не?
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Ага
источник

A

Alex in Moscow Spark
упоси господи от radosgw

создаём бакет на 1млн записей
пытаемся удалить - нельзя так как не пустой
пытаемся запросить список файликов чтобы по одному сразу удалить - гейтвей зависает

да и вообще под чуть большей нагрузкой он складывался

у вас есть опыт его использования в проде с большим количеством данных?
источник

NN

No Name in Moscow Spark
До свидания
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Взрослые всегда так делают — они не дают детям сдачи, а просто игнорируют
источник

Д

Дмитрий in Moscow Spark
Вы просто диагнозы по телефону не ставьте, это Вас не украшает.
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Я теб знаю прост, а Дмитрия нет
источник

ПФ

Паша Финкельштейн... in Moscow Spark
это сколько лет назад? Потому что года 4 назад я уже норм работал с таким
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Правда там у нас было много данных, но не очень больших
источник

ПФ

Паша Финкельштейн... in Moscow Spark
миллионы файлов, но маленьких
источник

A

Alex in Moscow Spark
3 года назад, плюс ещё в пару раз за последних пару лет, но попытка натянуть спарк на него минио выдавала даже больше
источник

ПФ

Паша Финкельштейн... in Moscow Spark
У нас были примерно мегабайтные файлы
источник

A

Alex in Moscow Spark
я говорю не про цеф как сторейдж, а именно радос как интерфейс s3
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Да-да, вот мы через radosgw работали
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Хм, наверное  лет, а не 4, время летит. Но не верю что стало хуже. Но может быть разница с паттернах использования
источник

k

kvadratura in Moscow Spark
спарк + thriftserver могут это делать. я когда тестировал нагрузки с простейшими случаями, было вполне норм. спарк по скорости развесистых sql запросов не уступал тому же trino. другое дело, что у trino гораздо больше вариантов конфигурирования под кейсы доступа к данным + federated фичи
источник

ПФ

Паша Финкельштейн... in Moscow Spark
А вот люди, вам бы пригодилась визуализация хайв метастора? Типа подключились, посмотрели что у нас там есть
источник

ПФ

Паша Финкельштейн... in Moscow Spark
метаинформацию посмотрели там, вот это вот всё
источник

k

kvadratura in Moscow Spark
а что там такого интересного? таблицы, датабазы, схемы, статистики..
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Ну вот примерно вот это вот, да
источник