Size: a a a

2020 December 28

SS

Sergey Shushkov in Data Engineers
Alexey Evdokimov
особенно, когда с монадами и хвостовой рекурсией кода 5 строчек, а без 150. но работает при этом в 20 раз быстрее, а платишь ты амазону за время
Ну в нормальных книжках предупреждают, что иногда неправильное использование может отражатся на производительности.

Если делать без понимания что делаешь, то тут хоть как пиши, но хорошо не будет.
источник

АР

Андрей Романов... in Data Engineers
Sergey Shushkov
Ну в нормальных книжках предупреждают, что иногда неправильное использование может отражатся на производительности.

Если делать без понимания что делаешь, то тут хоть как пиши, но хорошо не будет.
+
источник

АР

Андрей Романов... in Data Engineers
Grigory Pomadchin
судя по твоим постам в прошлом веке
и тут +
источник

АР

Андрей Романов... in Data Engineers
рили уже душнота начинается
источник

GP

Grigory Pomadchin in Data Engineers
Да давайте уж заканчивать; не первый раз Алексей коллег нехорошими словами обзывается
источник

AE

Alexey Evdokimov in Data Engineers
все мои задачи сводятся к сравнению расстояний от одного миллиона точек до другого миллиона точек на геоиде. ну или миллиардов точек, если точнее. приходится байты считать с тактами, чё я могу поделать ¯\_(ツ)_/¯
источник

AE

Alexey Evdokimov in Data Engineers
не знаю какие задачи вы решаете; вы о них никогда не рассказываете подробно
источник

SS

Sergey Shushkov in Data Engineers
Alexey Evdokimov
не знаю какие задачи вы решаете; вы о них никогда не рассказываете подробно
Ну дык нда же :(
источник

SS

Sergey Shushkov in Data Engineers
Alexey Evdokimov
все мои задачи сводятся к сравнению расстояний от одного миллиона точек до другого миллиона точек на геоиде. ну или миллиардов точек, если точнее. приходится байты считать с тактами, чё я могу поделать ¯\_(ツ)_/¯
Прям ностальгией повеяло, когда для мобильного приложения писал кастомную группировку близких событий на карте, на основе геохэша и чистом постгре )
источник

AE

Alexey Evdokimov in Data Engineers
ну я вот за 3.5 года от постгри с мапредюсом докатился до голимого спарка вообще без ничего, и от 8к$ за проект до 40$ на в 100к большем объёме сырых данных
источник

AE

Alexey Evdokimov in Data Engineers
не знаю правда, вин это или нет
источник

AZ

Anton Zadorozhniy in Data Engineers
Если результатом стало неприятие ФП/скала и фпшных ДСЛ - не вин
источник

AE

Alexey Evdokimov in Data Engineers
ну потому что без оных расчёт тупо дешевле. пробовали-то всё что можно было, конечно же. но бизнес есть бизнес, ничего личного
источник

AE

Alexey Evdokimov in Data Engineers
и в удфы игрались и в спарк.sql, как же без всего этого. а вот фиг там с такими-то задачами. пойду-ка я напьюсь, пожалуй. тоскливо чё-то стало
источник

RZ

Rafa Zubrabubra in Data Engineers
Alexey Evdokimov
ну я вот за 3.5 года от постгри с мапредюсом докатился до голимого спарка вообще без ничего, и от 8к$ за проект до 40$ на в 100к большем объёме сырых данных
А как Спарк без ничего? Данные он сам порождает?
источник

GP

Grigory Pomadchin in Data Engineers
Rafa Zubrabubra
А как Спарк без ничего? Данные он сам порождает?
мусор генерит в хипе
источник

RZ

Rafa Zubrabubra in Data Engineers
Слушайте, может если про Спарк зашла речь. Падает slave на кластере с OOM, и я что то не понимаю куда ему больше 1G памяти кушать, кластер очень мелкий 5 нод, и джобы мелкие примерно по 16 воркеров
источник

AZ

Anton Zadorozhniy in Data Engineers
Можно ещё на раст (например эрроу с датафюжен) переписать, тогда и джава окажется не нужна
источник

SS

Sergey Shushkov in Data Engineers
Год назад,вроде, была статья где на свифте сравнивали бенчмарк операции с аналагичными на спарке, где первый был быстрее )
источник

GP

Grigory Pomadchin in Data Engineers
Sergey Shushkov
Год назад,вроде, была статья где на свифте сравнивали бенчмарк операции с аналагичными на спарке, где первый был быстрее )
сравнивают табурет с яблоком)
источник