Size: a a a

2021 December 04

D

Dmitry Nechaev in Data Engineers
Подалуйста
источник

АК

Алексей Колотвинов... in Data Engineers
Передумал
источник

D

Dmitry Nechaev in Data Engineers
ничего
источник

k

kvadratura in Data Engineers
кто-то в проде даск использует? если да, то интересно, по каким причинам
источник

k

kvadratura in Data Engineers
"в проде" ~ пара сотен джоб на пару десятков TB / день хотя бы
источник

D

Dmitry Nechaev in Data Engineers
Вопрос был об одной ноде 8 ядер 16 гб ОЗУ
источник

A

Alex in Data Engineers
Является частью pyspark начиная с 3.2
источник

AG

Arsen Gumin in Data Engineers
Сыроват ещё как по мне
источник

АК

Алексей Колотвинов... in Data Engineers
Зато модно молодежно
источник

GP

Grigory Pomadchin in Data Engineers
а пробовал? звучит конечно огненно
источник

AG

Arsen Gumin in Data Engineers
Он как пуля, все бенчмарки его, но релиза 1.X вроде не было, плюс много ништяков из коробки нет
источник

АК

Алексей Колотвинов... in Data Engineers
В rust вообще не очень принято 1.х выпускать😁
источник

АК

Алексей Колотвинов... in Data Engineers
На личном ноуте запускал примерчики не более, так из любопытства, на rust более популярен datafusion, на нем уже кучу аналитических баз разрабатывают. А если интересней научное то на julia dataframe.jl
источник

АК

Алексей Колотвинов... in Data Engineers
источник

AS

Andrey Smirnov in Data Engineers
а это не те бенчмарки, когда время загрузки в базу тоже учитываются?
источник

АК

Алексей Колотвинов... in Data Engineers
Не помню,  для клик хауза из базы, у остальных сорсы смотреть надо, но "в" помоему там нет.  Понятно,  что сторонние бенчи так для ориентира, а не для принятия решения.
источник

AS

Andrey Smirnov in Data Engineers
там внутри подобное
CREATE TABLE ans ENGINE = Memory AS SELECT id3, max(v1) - min(v2) AS range_v1_v2 FROM DATA_NAME GROUP BY id3;
источник

АК

Алексей Колотвинов... in Data Engineers
Там из описания это только ch касалось(со не совсем понятными мотивами) в julia там инмемори исполнение запроса суда по коду, в остальных "языковых" думаю тоже самое
источник
2021 December 05

M

Makhmut in Data Engineers
всем привет
подскажите пожалуйста , в пентахо скрипт шел запускает но не отрабатывает
не знаю где стоит
в пауершел поставил сет полиси Unrestricted
источник

V

Valentin in Data Engineers
Парни подскажите в чем отличие обычного spark с python от spark с scala?
источник